NVIDIA、AIクラスタの物理接続を把握してGPU配置を最適化する「Topograph」をオープンソース公開

要点

• NVIDIAは、AIクラスタのネットワーク接続構造（トポロジ）を自動検出し、スケジューラに提供するオープンソースツールキット「NVIDIA Topograph」を発表した。

• クラウドAPIやオンプレミス機器からハードウェアの接続関係を取得して共通モデルに正規化し、KubernetesやSlurmが解釈できる設定へ変換する。

• クラスタ構成の変更を監視してトポロジ情報を自動更新するため、手動による設定ファイルの維持を不要にし、常に最新の構成に基づいてGPUを割り当てられる。

• Google CloudやOracle Cloud Infrastructureなどの主要クラウド、InfiniBandやNVLinkなどのオンプレミス環境に対応し、KAI Schedulerと連携したギャングスケジューリングを実現する。

• 米NVIDIAは2026年9月22日、同社の公式技術ブログにおいて、AIファクトリー向けにクラスタのネットワーク構造を自動検出してワークロード管理ツールに連携するオープンソースツール「NVIDIA Topograph」を発表した。同ツールの導入により、GPU間の物理的な接続関係を正確に把握したスケジューリングが可能になり、通信ボトルネックの回避やGPU利用効率の向上が図れるという。同社のドミトリー・シュムレビッチ（Dmitry Shmulevich）氏およびロブ・エスカー（Rob Esker）氏が解説記事を公開している。

通信局所性とスケジューリングにおける課題

AIの学習や推論を行う分散ワークロードでは、処理中にGPU同士が大量のデータを頻繁にやり取りするため、物理的に近い距離で通信を行う「通信局所性（locality）」の確保が重要となる。現代のデータセンターインフラでは、第5世代のNVIDIA NVLink（GB200やGB300などのBlackwell世代）でGPUあたり双方向1.8TB/s、第6世代（Vera Rubin世代）では3.6TB/sという帯域幅がラック内（スケールアップ接続）で提供されるほか、NVIDIA Quantum InfiniBandでは最大800Gb/sのポート速度、NVIDIA Spectrum-X Ethernetではシステムやラックを跨ぐスケールアウト接続において低遅延なネットワークが構築されている。

しかし、ワークロードマネージャがハードウェアの接続構造を正確に把握せずにジョブを分散配置してしまうと、密結合な通信が複数のスイッチや共有リンクを経由することになり、通信の混雑や遅延が発生する。その結果、データ待ちによってGPUが計算を進められないまま電力を消費し続け、処理速度の低下や運用コストの増大を招く要因となっていた。KubernetesやSlurmといったスケジューラにはトポロジを意識した配置機能が備わっているものの、ノードの追加や障害などによって変動するクラスタの接続構造を手動で追従し、常に正確な情報をスケジューラに与え続けることが実運用上の大きな課題となっていたという。

共通モデルによる正規化と自動更新の仕組み

今回公開されたTopographは、クラスタ内のハードウェア接続構造を自動検出して正規化し、各スケジューラが解釈できるフォーマットで出力する機能を提供する。Topographは主に「Provider（プロバイダ）」と「Engine（エンジン）」という2つのコンポーネントで構成されている。

Providerは、クラウド事業者が提供するAPIやオンプレミスのファブリック管理システムからトポロジ情報を収集し、共通の標準モデルへと変換する役割を担う。一方のEngineは、その標準モデルを各ワークロードマネージャが求める形式（Kubernetesのノードラベル、Slurmのトポロジ設定、SlinkyのConfigMap、Node Feature Discovery（NFD）リソース、インスタンス指向のトポロジJSONなど）へと変換して発行する。

さらにTopographは、オンデマンドでの情報再生成に加え、クラスタ内のイベントを監視して構成変更を検知した際にも自動的にトポロジビューを更新する。これにより、管理者が静的な設定ファイルを手作業で更新することなく、スケジューラは常に最新の物理配置情報に基づいて最適なGPU割り当てを実行できるようになる。

多様な環境への対応とエコシステム連携

Topographは、マルチクラウドおよびオンプレミスの双方で広範な環境をサポートしている。クラウド環境としては、Google Cloud、Lambda、Nebius、Nscale、Oracle Cloud Infrastructure（OCI）との統合に対応する。オンプレミス環境では、InfiniBand、Spectrum-X Ethernet、およびマルチノードNVLinkドメインの接続構造を認識可能となっている。

また、NVIDIA DSX OSクラスタオーケストレーション層において、TopographはDynamic Resource Allocation（DRA：動的リソース割り当て機能）やオープンソースの「KAI Scheduler」と連携して動作する。これにより、複数のノードやGPUを一体として一括割り当てする「トポロジを意識したギャングスケジューリング」が可能となり、AIファクトリーインフラ全体の処理効率を最大化できるとしている。

導入形態として、Kubernetes環境向けにはHelmチャートが用意されているほか、Slurmクラスタ向けにはネイティブパッケージが提供される。また、本番ハードウェアが存在しない開発・検証環境でも動作を確認できるよう、シミュレーションユーティリティも同梱されている。ソースコードおよび導入ガイドは、GitHubのdsx-ai-factory/topographリポジトリにて公開されている。