NVIDIAが「CUDA Toolkit 13.4」をリリース、Windows on Armへの対応や共有GPUの制御強化を実施

要点

• 米NVIDIAは並列コンピューティング向け開発プラットフォームの最新版「CUDA Toolkit 13.4」を公開した。

• これまでLinux環境向けに提供されてきたArmプラットフォーム対応が、新たにWindows on Armへ拡張された。

• 次世代GPUアーキテクチャ「NVIDIA Rubin」の機能サポートがプレビュー版として先行導入された。

• 共有GPUの管理機能「Multi-Process Service V3」が導入され、コンテナ環境でのリソース隔離とメモリ制限が強化された。

• 大規模NVLink通信向けAPI「CUDA Compute Fabric Transport」の新設や、CUDA PythonおよびCCCLの高速化・機能拡張が行われた。

• 米NVIDIAは現地時間2026年9月9日、GPU向け並列コンピューティングプラットフォームの最新バージョンとなる「CUDA Toolkit 13.4」を公開した。今回のアップデートでは、Windows on Arm環境でのCUDAアプリケーション開発が正式にサポートされたほか、次世代GPUアーキテクチャ「NVIDIA Rubin」に向けた開発者向けの早期アクセスが提供されている。さらに、コンテナ環境でのGPUリソース制御や大規模データ転送APIの追加など、開発基盤の多岐にわたる刷新が行われたことが明らかになった。

Windows on Armへの対応拡大と次世代「Rubin」アーキテクチャの先行プレビュー

CUDA Toolkit 13.4における大きな変更点の一つが、Windows on Arm（Armアーキテクチャを採用したプロセッサで動作するWindows環境）への対応だ。これまでArmプラットフォーム上のCUDAアプリケーション開発はLinux環境に限定されていたが、本バージョンによってWindows on Arm環境でも開発が可能になったという。

また、次世代GPUアーキテクチャである「NVIDIA Rubin」（Compute Capability 107：GPUの機能世代を示す指標）の機能サポートが、プレビューとして導入された。Rubinは自律型AIエージェントの処理などを想定した次世代GPUアーキテクチャと位置づけられており、将来のCUDA Toolkitによる正式提供に先立ち、開発者がアプリケーションの移植作業を前もって進められるよう設計されている。

コンテナ環境におけるGPU共有を最適化する「MPS V3」

複数プロセスでGPUを共有して稼働率を高める「Multi-Process Service（MPS）」は、バージョン3（MPS V3）へと刷新された。これにより、共有GPUリソースの自動化や運用管理を支援する近代的なコントロールレイヤーが導入されたとしている。

MPS V3では、スクリプト操作に対応したCLIや名前付きサーバーインスタンス、並行ワークロードを整理するための名前空間が新設された。設定ファイルの記述形式としてTOMLがサポートされたほか、SM（Streaming Multiprocessor：GPU内で実際の演算処理を担うコア単位）のパーティション制御や、Linuxのcgroupと連携したGPUメモリ上限の設定機能も追加されている。これにより、コンテナ環境において演算性能、メモリ境界、実行優先度をプログラムから厳密に定義できるようになり、ハードウェア利用率を高めながらプロセス間の安全なリソース分離が維持できると説明している。

大規模システム向けの通信API「CUDA Compute Fabric Transport」

大規模なマルチGPUシステムに向けては、新しいデータ転送API「CUDA Compute Fabric Transport（CFT）」が提供された。これはGPU間を高速に接続するNVLinkファブリックを経由したデータ移動を、トランスポート中心の設計で効率化する仕組みだという。

従来のようにリモートGPU側のメモリ割り当てをすべて自プロセスの仮想アドレス空間へマッピングする方式とは異なり、CFTでは論理エンドポイントIDとオフセットを指定して転送先を特定する。これにより、大規模構成における仮想アドレス空間の圧迫を抑えながら、GPUから直接非同期でput、get、リダクション（集約演算）を実行できるとしている。ユニキャストおよびマルチキャストの通信パターンに対応し、転送完了やエラーの状態が通知されるため、転送失敗時の再試行や迂回ルーティングなどの制御も可能だという。なお、CFTはCUDA Driver APIを通じて提供される。

Python環境および標準ライブラリ（CCCL）の機能強化

開発ライブラリや言語バインディングのアップデートも複数含まれている。Python環境向けの「CUDA Python」では、cuda.core 1.1.0 においてテクスチャやサーフェスのプログラミング対応、NUMA（複数のプロセッサ間でメモリを分散管理する構造）を考慮したマネージドメモリ、型情報を提供する .pyi スタブファイルが追加された。さらに cuda.compute 1.1 により、CCCLのアルゴリズムを複数のGPUアーキテクチャ向けに事前コンパイル（AOTコンパイル）することが可能になった。

CUDA C++の中核ライブラリである「CCCL 3.4（CUDA C++ Core Libraries）」では、Blackwell世代のGPU向けにワープ特化型の cub::DeviceScan の処理速度が向上し、メモリ帯域幅の利用率が最大92%に達すると説明されている。あわせて、CUBのデバイスワイドアルゴリズムを単一の呼び出しで実行できるAPI、バッチ単位でのワープリダクション、cuda::std におけるC++標準ライブラリ並列アルゴリズムのサポートなども導入された。このほか、統合開発支援ツール「NVIDIA Nsight」や各種コア数学ライブラリの更新も行われている。