OWN NEWS GATHER
← 戻る
NVIDIA Technical Blog

NVIDIA、GPU主導の通信基盤「DOCA GPUNetIO」の統合アーキテクチャを公開

要点

  • NVIDIAは、GPUが直接ネットワーク通信を駆動する「GDA-KI」の共通基盤として「DOCA GPUNetIO」を統合したアーキテクチャを解説した。

  • フル機能のDOCA SDK版と軽量なオープンソース版の2形態が提供され、実行時にSDKを動的検出する機構を備える。

  • 各通信ライブラリが個別に抱えていたGDA-KI実装が集約され、重複開発の解消や機能改善の迅速な共有が可能になった。

  • NCCL 2.27やNVSHMEM 3.7に組み込まれたほか、Blackwell搭載のIGX Thor環境では約2.6マイクロ秒の最小往復遅延を記録したという。

  • 米NVIDIAは2026年10月6日、同社公式技術ブログにおいて、GPU主導のネットワーク通信をソフトウェアスタック全体で統合する基盤「DOCA GPUNetIO」の技術詳細を公開した。Elena Agostini氏ら同社エンジニア陣が執筆したもので、GPU上の処理から直接ネットワークを駆動する最新仕様が示されている。通信処理からCPUの介在を排除し、リアルタイム処理の低遅延化を図る狙いだ。

個別実装の乱立を解消する共通基盤化

近年のGPU分散処理アプリケーションでは、パケット処理やデータ転送をGPU自身が直接制御する構成への要求が高まっている。従来のようにCPUが通信のたびに介在すると、全体の処理時間を決定づける重要経路(クリティカルパス)でボトルネックが生じ、リアルタイムな応答性が損なわれるためだ。

これに対しNVIDIAは、GPUカーネルから非同期に通信を起動する「GDA-KI(GPUDirect Async Kernel-Initiated)」技術を提供してきた。しかし従来は、集団通信ライブラリ「NCCL」や分散メモリ通信向け「NVSHMEM」などの各ソフトウェアが、それぞれ独自にGDA-KI相当の通信経路を個別に設計・実装しており、コードベースの二重管理が課題となっていたという。

今回示された方針では、これら独立した実装をDOCA GPUNetIOの傘下へ一本化する。単一の共通基盤に集約することで、新機能の開発や最適化、不具合修正への投資を集中させ、重複した開発負担を削減できると説明している。特定のフレームワーク向けに作られた先進的な改善が、他のソフトウェアにも迅速に展開される利点があるという。

制御と通信の分離とオープンソース展開

DOCA GPUNetIOは、GPUDirect RDMAやGDRCopyといった既存技術を統合し、CUDAカーネル(GPU上で並列実行される処理プログラム単位)からEthernet、RDMA(Remote Direct Memory Access:CPUを介さずにメモリ間で直接転送を行う技術)、Verbs、DMA転送を直接指示できるようにするSDK層だ。

本フレームワークは、CPU側の「制御パス」とGPU側の「データパス」を明確に分離している点が特徴だ。CPU側はDOCA EthernetやDOCA Verbsなどの通信オブジェクトを作成してGPUメモリ上へエクスポートする役割を担い、GPU側はそのオブジェクトをCUDAカーネルから直接操作する関数群を提供する。この仕組みにより、データ転送の実行経路からCPUを完全に排除できる。

提供形態としては、全機能を網羅した「DOCA SDK」スーパーセット版に加え、軽量なオープンソースのVerbs特化型ライブラリが用意される。オープンソース版は実行時にDOCA SDKの有無を検知し、dlopen(実行時に共有ライブラリを動的に読み込むシステム機能)経由で非公開関数を呼び出す仕組みを備えているという。

主要ライブラリへの統合と性能実証

この共通基盤化は、すでに同社スタックの各所で実用化が進んでいる。GPU間通信ライブラリのNCCLでは、バージョン2.27以降、デバイス側通信API「NCCL GIN」のバックエンドとしてオープンソース版GPUNetIOが統合され、GPU主導のRDMA転送を実現した。

また、分散通信ライブラリのNVSHMEM 3.7でもGPUNetIOベースのトランスポートが導入され、従来の通信性能を保ちながら実装の複雑さを軽減させた。同社のベンチマークによると、小サイズ通信においてCTA(Cooperative Thread Array:GPUスレッドの協調単位)やQP(Queue Pair:RDMA通信の送受信キューのペア)のスケーリング性能が向上したという。

さらに、量子・古典ハイブリッド計算向け基盤「NVQLink」でも本基盤が活用されている。Blackwell世代GPUとConnectX-7を備えた「IGX Thor」環境での検証では、約2.6マイクロ秒という最小往復遅延を達成したと報告されている。このほか、UCX/NIXLや通信向けSDKのAerial 5G SDK、DeepEP/HybridEPなど多方面で統合が進められているという。

元URL