NVIDIAの最新AIシステム「GB300 NVL72」が世界記録を達成、大規模言語モデル「DeepSeek-V3」の事前学習で圧倒的な通信効率を実証

要点

• NVIDIAの最新AIシステム「GB300 NVL72」が、大規模言語モデル「DeepSeek-V3 671B」の事前学習において、GPU1基あたり1,648 TFLOPsという処理性能の世界記録を達成しました。

• 近年のAI開発で主流となっている「MoE（混合専門家）」アーキテクチャでは、GPU間で発生する膨大なデータ通信の処理速度がシステム全体の効率を決める最大の課題となっています。

• 第5世代の「NVLink」接続技術により、ラック内のGPU間で毎秒130TBのノンブロッキング通信と、相手のメモリへ直接アクセスする極めて低い遅延時間を実現しました。

• ラックをまたぐ大規模接続には「ConnectX-8 SuperNIC」などを採用し、さらにソフトウェアの最適化を組み合わせることで、GPUを1,024基まで増やしても97%以上の高い性能維持率を記録しました。

• 米NVIDIAは2026年7月21日、同社の公式技術ブログで、最新のAIサーバーラックシステム「NVIDIA GB300 NVL72」を用いた性能検証において、大規模言語モデル（LLM）「DeepSeek-V3 671B」の事前学習におけるスループットの世界記録を達成したと発表しました。この検証では、システムを構成するGPU1基あたり1,648 TFLOPs（テラフロップス：1秒間に1兆回の浮動小数点演算を行う処理速度の単位）という極めて高い処理能力を記録しました。本成果は、半導体からネットワーク、ソフトウェアに至るまでを一体として設計する「コ・デザイン（共同設計）」アプローチの有効性を示すものだとしています。

AI学習の主流「MoE」が抱える通信の壁

現在、最先端のAIモデル開発における事前学習（実用化の前に大量のデータで基礎知識を学ばせる工程）は、「MoE（Mixture of Experts：混合専門家）」と呼ばれる設計手法へ急速にシフトしています。MoEは、膨大なパラメータ（AIモデルのサイズや賢さを決める変数）のうち、入力されたデータ（トークン）に応じて必要な一部のパラメータ（エキスパート）のみを活性化させて計算する仕組みです。

たとえば、今回の検証で使われた「DeepSeek-V3」は、全体で6710億（671B）という巨大なパラメータを持っていますが、1つのデータ処理で実際に動くのはそのうち約370億パラメータのみです。これにより、モデル全体の規模に対して計算コストを大幅に抑えられるというメリットがあります。

しかし、この効率性と引き換えに生じるのが、GPU同士の膨大なデータ通信という課題です。分割された「エキスパート」はそれぞれ異なるGPUに配置されているため、学習の各層（レイヤー）を処理するたびに、全てのGPU同士が互いにデータを送り合って結果を統合する「all-to-all（全対全）」と呼ばれる通信が、順方向（フォワード）と逆方向（バックワード）の双方で発生します。この通信は学習処理のボトルネックとなりやすく、通信による遅延（レイテンシ）が重なると、どれだけ計算速度の速いGPUを追加してもシステム全体の処理効率が向上しなくなってしまいます。

圧倒的な通信性能を実現する「GB300 NVL72」の設計

NVIDIAはこの課題に対し、単に高性能な半導体を単体で提供するのではなく、ラックシステム全体を一つのAIプラットフォームとして設計した「GB300 NVL72」を開発しました。

本システムの最大の特徴は、72基の最新GPU「Blackwell Ultra」を緊密に連結する第5世代の「NVLink」技術です。これにより、各GPUに対して毎秒1.8TBの極めて広い通信帯域幅を提供し、さらにラック全体では毎秒130TBという、データの衝突や待ち時間が発生しない（ノンブロッキング）双方向の全対全通信を実現しました。すべてのGPUがわずか1ホップ（中継なしの直接接続）で他のすべてのGPUと通信できます。

さらに、このNVLink接続は「メモリセマンティクス」と呼ばれる仕組みを採用しています。これは、あるGPUがソフトウェアの通信命令を介することなく、あたかも自分自身のメモリを扱うかのように、他のGPUのメモリ（HBM）へ直接ロード・ストア（読み書き）操作を行える技術です。データ転送時のソフトウェア的なオーバーヘッドが排除されるため、通信による遅延を限界まで抑えることができます。また、データがスイッチを通過する際、その内部でデータの集約処理（リダクション）を同時に実行する機能も備えています。

ラック間ネットワークとソフトウェアの革新

「DeepSeek-V3」のような超大規模なモデルの学習には、単一のラック（72基のGPU）で収まらないほど多くの計算資源が必要となり、複数のラックをネットワークで相互に接続（スケールアウト）しなければなりません。

ラック外の接続には、最新のネットワークアダプターである「ConnectX-8 SuperNIC」を採用しています。これらを「Quantum-X800 InfiniBand」や「Spectrum-X Ethernet」といった高速ネットワーク技術と組み合わせることで、予測可能で安定した通信パフォーマンスを複数ラック間で維持しています。

加えて、ソフトウェア側のイノベーションも性能向上に大きく貢献しています。NVIDIAは「Megatron Core」や「TorchTitan」「JAX」といった学習用ソフトウェアフレームワークを通じて最適化を図っており、これらにより前世代のシステムと比較して3倍から10倍のパフォーマンス向上を達成しました。その結果、GPUの数を256基から1,024基へと大幅に増やして規模を拡大した際にも、GPU1基あたりのスループット性能の低下を防ぎ、97%以上という極めて高いスケーリング効率を維持することに成功しました。

事前学習の効率が向上することは、AI研究者が限られた時間とインフラのなかで、より大規模なモデルを開発し、多くの実験を迅速に進められることを意味します。NVIDIAは、ハードウェアとソフトウェアの両面からの継続的なアプローチと、オープンソースへの貢献を通じて、今後もAIトレーニングの限界を押し上げていくと説明しています。