NVIDIA、AIデータセンターの電力配分を動的制御する「DSX MaxLPS」を発表——同一電力枠で最大40%のGPU増設が可能に
要点
-
NVIDIAは、AIデータセンター向けに電力を動的に共有・配分する技術「NVIDIA DSX MaxLPS」を発表した。
-
従来のピーク想定による電力の遊休化を解消し、同一の電力バジェット内で最大40%多くのGPUを稼働させることができる。
-
Nscaleとの共同検証では、GB300 NVL72上でスループットが49.2%向上し、電力効率も4.10から6.12トークン/秒/Wへ改善した。
-
通常のレイテンシ増加は5%以内に収まった一方、P99の初期応答時間は17%増加しており、テイルレイテンシの評価が必要とされる。
-
導入手法として、管理境界の策定から段階的な負荷検証までを行う5段階の検証プロセスが提示されている。
-
米NVIDIAは2026年9月27日、AIデータセンター(AIファクトリー)のスループットと電力効率を最大化する制御技術「NVIDIA DSX MaxLPS」の詳細を同社公式技術ブログで発表した。あらかじめ割り当てられた電力上限の範囲内で各リソースへ動的に電力を再配分することにより、同一の電力設備容量のまま配備可能なGPU数を最大40%増加させられるという。データセンター事業者Nscaleとの実証実験では、大規模言語モデルの処理においてスループットが約5割向上することが確認された。
従来の静的プロビジョニングにおける電力の遊休化
AIデータセンターの運用では、電力会社からの受電設備、変電所、配電装置、ラック、サーバーノード、そして個々のGPUに至るまで、階層ごとに厳格な電力制約が存在する。従来の設計では、すべてのノードが同時に最大電力を消費する最悪の事態を想定し、ノードごとに固定の電力枠を確保する「静的プロビジョニング」が一般的だった。
しかし、実際のAIワークロードが一定の電力を消費し続けることは極めて稀である。AIモデルの学習では計算、通信、同期、チェックポイント保存などの処理フェーズが切り替わり、推論においてもプロンプト処理(prefill)、トークン生成(decode)、メモリ帯域の処理、ネットワーク通信、アイドル状態が細かく交代する。さらに、リクエストの規模や同時実行数の変化によっても電力需要は常に変動する。
従来の静的な割り当てでは、あるノードで電力が余っていても他のノードへ融通することができない。そのため、施設全体の受電容量には余裕があるにもかかわらず、追加のGPUを稼働させられないという電力の遊休化が発生していた。
ソフトウェアで動的に電力を融通する「DSX MaxLPS」の仕組み
こうした課題を解決するため、NVIDIAは「DSX MaxLPS」を開発した。本技術は、土地(Land)、電力(Power)、建屋(Shell)といった物理的な制約(LPS制約)の中でデータセンターの出力を最大化するため、半導体チップ、システム設計、冷却機構、ソフトウェアを統合したフレームワークである。電力制御の中核レイヤーには「Dynamic Power Software」が用いられている。
DSX MaxLPSは、リアルタイムの電力消費量を監視し、管理者が設定したポリシーと総電力枠の範囲内で、利用可能な電力を参加リソース間へ動的に再配分する。この制御プロセスは、以下の技術要素で構成されている。
- トポロジとリソースグループ: 管理対象のインフラをマッピングし、共通の総電力バジェットを持つグループとしてノードを構成する。
- テレメトリ: GPU、ノード、ラック、グループ全体の各レベルで高頻度に電力データを収集し、余剰電力や急激な電力イベントを検知する。
- ポリシー: ノードやグループごとの電力制限、割り当て優先度、予備電力の要件、メンテナンス時や緊急時の動作ルールを定義する。
- アロケーション: 定義されたポリシーに従い、各リソースへ電力を動的に割り当てる。
Nscaleによる実証:同一電力下でスループットが49.2%向上
NVIDIAは、アイスランドのケフラヴィークにあるNscaleのVerneキャンパスにおいて、DSX MaxLPSの実証実験を実施した。このデータセンターは100%再生可能エネルギーで稼働しており、実験環境には「NVIDIA GB300 NVL72」システムが用いられ、大規模言語モデル「Kimi K2.5」のワークロードが実行された。
実験では、264.4 kWの固定された電力供給枠の中で、従来の静的割り当て(140基のGPU)とDSX MaxLPSによる動的割り当て(192基のGPU)の比較が行われた。
検証の結果、DSX MaxLPSを適用した構成では、同一電力枠でありながら搭載GPU数を増やすことができ、正規化された総スループットが49.2%向上した。また、プロビジョニングされた電力1ワットあたりのスループットも、4.10トークン/秒/Wから6.12トークン/秒/Wへと向上した。高スループット型および低遅延型のワークロードの双方において、インスタンス単体あたりのスループット性能は実質的にベースラインと同等に維持されたとしている。
レイテンシのトレードオフと5段階の導入検証手順
一方で、動的な電力制御に伴う応答速度(レイテンシ)への影響も明らかにされている。実験データによると、遅延の中央値(Median)および75パーセンタイル(P75)の増加はベースライン比で5%以内に収まった。しかし、最も遅い部類にあたる99パーセンタイル(P99)の初回トークン生成時間(Time to First Token: TTFT)については17%の増加が観測された。この結果から、容量拡大のメリットを享受するにあたっては、テイルレイテンシへの影響を併せて評価する必要があると指摘している。
NVIDIAは、事業者がDSX MaxLPSを本番環境へ安全に導入するための手法として、再現可能な5段階の検証プロセスを提示している。
- 管理境界の定義: 制御対象となる物理インフラと電力境界を明確にする。
- 代表的なベースラインの確立: 実際のワークロードを用いて基準となる性能と消費電力を測定する。
- 保守的なポリシーの導入: 安全マージンを考慮した制御ポリシーを適用する。
- 段階的な容量追加と検証: 各段階でテストを実施しながら、インクリメンタルにGPUやノードの容量を追加していく。
- 本番運用制限の設定: すべての性能目標と安全基準が満たされたことを確認した上で、最終的な本番稼働パラメータを確定する。