NVIDIA、BlueField-4とDOCAで「エージェント型AI」の処理を高速化する次世代インフラ戦略を公開

要点

• エージェント型AIの普及に伴い、推論処理はGPU単体から、ネットワークやストレージなどインフラ全体を巻き込む分散ワークフローへと変化している。

• NVIDIAは、AIデータセンターの処理を効率化する専用プロセッサ「BlueField-4 DPU」や「Vera BlueField-4 STX」ストレージプロセッサの役割を解説した。

• 「BlueField-4 DPU」は最大800 Gb/sの高速通信や64コアのGrace CPUを統合し、通信やセキュリティといったインフラ処理をホストCPUから肩代わりする。

• AI向けストレージプロセッサ「Vera BlueField-4 STX」は、「DOCA Memos」を通じて推論に欠かせない文脈データのキャッシュ管理を最適化する。

• ソフトウェアプラットフォーム「DOCA」を組み合わせることで、GPU使用率の向上やコスト削減、電力効率の向上などが実現されるという。

• 米NVIDIAは2026年7月16日、同社の技術ブログにて、急速に進展する「エージェント型AI（Agentic AI）」を支える次世代AIデータセンター（AIファクトリー）向けのインフラ戦略を明らかにした。「NVIDIA BlueField-4 DPU」や「Vera BlueField-4 STX」ストレージプロセッサ、および開発用ソフトウェア「NVIDIA DOCA」を組み合わせることで、GPUを最大限に活用しつつ、増大する推論処理の負荷を低減できるという。

エージェント型AIが変えるインフラの要求

自律的に判断や処理を行うエージェント型AIは、従来のAIのように単純に1回の質問に対して1回の回答を返すだけではない。1回の要求に対して、内部で何度もAIモデルを呼び出したり、外部ツールを実行したり、データベースなどのストレージにアクセスしたり、セキュリティポリシーの確認を行ったりといった、複雑な処理を繰り返す特徴を持つ。

このような複雑な処理が進むにつれ、ユーザーやセッションをまたいで発生する「文脈（コンテキスト）データ」を高速かつ安全に移動し、再利用することが求められるようになった。このデータ移動が滞ると、高性能なGPUやCPUの処理がストップし、全体の効率が低下してしまうからだ。

特に、大規模言語モデル（LLM）が会話の流れを記憶するために使用する「KVキャッシュ」（過去の入力内容から生成された中間データを一時的に保存するメモリ領域）の管理が大きな課題となっている。GPUのメモリ容量には限界があるため、メモリが不足すると古いキャッシュデータは破棄され、必要に応じて再計算される。しかし、これでは遅延が発生するか、あるいは処理コストが上昇するという二者択一の課題が生じる。NVIDIAは、このKVキャッシュの管理をインフラのデータ経路の一部として統合し、高速に取得・保護する仕組みが必要だと指摘している。

ハードウェアの役割：インフラ処理を専用プロセッサへ移行

こうしたインフラの課題に対応するため、NVIDIAは「BlueField」プラットフォームをAIファクトリーのデータ経路上に配置する設計を提案している。

「NVIDIA BlueField-4 DPU」（データ処理に特化した専用プロセッサ）は、ネットワーク通信、ストレージ接続、セキュリティ対策、動作監視（テレメトリ）といったインフラ関連の処理をホストCPUから切り離し、自身で処理（オフロード）する。これにより、本来のAI処理プログラムの実行に必要なCPUリソースを解放できる。

仕様面では、BlueField-4は最大800 Gb/sの高速なEthernetまたはInfiniBandの通信機能を備え、64コアの「NVIDIA Grace CPU」や、次世代の接続規格である「PCIe Gen6」、高帯域幅の「LPDDR5Xメモリ」を統合している。

また、同時に紹介された「Vera BlueField-4 STX」は、AI処理に特化したストレージプロセッサだ。AIファクトリー全体で、コンテキスト用のメモリや高性能なストレージインフラ、強固なデータサービスを支える新たなデータプラットフォームの心臓部として機能するという。

ソフトウェア「DOCA」による高度な制御と次世代アーキテクチャ

これらのハードウェアを制御するのが、ソフトウェア開発用の共通プラットフォームである「NVIDIA DOCA」だ。

DOCAは、通信やセキュリティ、システム制御をプログラミング可能にする基盤を提供する。特に、機能群のひとつである「DOCA Memos」を介することで、Vera BlueField-4 STXによるKVキャッシュの最適な管理を実現する。これにより、不要な再計算を減らし、過去の会話データを効率よく再利用できるようになる。

さらに、通信経路そのものにセキュリティ機能を組み込むことで「ゼロトラスト（すべてのアクセスを検証するセキュリティの考え方）」を徹底し、同じ物理インフラ上で異なる企業のデータやシステムを安全に隔離して運用する「マルチテナント」のライフサイクル管理も可能にする。

NVIDIAは、これらのテクノロジーが次世代のAI向け超高性能アーキテクチャ「NVIDIA Vera Rubin」や「NVIDIA DSX」において、インフラの高速化とプログラム制御を支える重要な基盤になると説明している。

インフラ全体の処理を最適化することで、GPUの稼働率が向上し、遅延時間が一定に保たれるほか、トークンあたりのコストや消費電力の削減といった、AIデータセンターの運用に直結する具体的なメリットが得られるとしている。