Ai2、GPUクラスタ管理を「時間予算制」に刷新　資源の奪い合いと遊休を防ぐ新手法を公開

要点

• 米アレン人工知能研究所（Ai2）が、数千基規模のGPUクラスタを効率運用する新スケジューリング手法を公表した。

• 需要が供給の2〜3倍に達する環境下で、従来の優先度管理では空ジョブによる居座りや優先度インフレなどの機能不全が生じていた。

• ハードウェアの物理的な専有から「GPU時間」の予算配分へと移行し、研究の繁閑によるマシンの遊休化を解消した。

• 「可用性」「占有率」「インパクト」「使用率」の4階層指標を導入し、高稼働率を維持しながら価値の高い研究を優先する。

• 米非営利AI研究所のアレン人工知能研究所（Ai2）のAIインフラチームは2026年10月9日、大規模分散学習向けGPUクラスタのスケジューラを刷新したと公式ブログで公表した。需要が供給を大きく上回る中、物理マシンの割り当てから「GPU時間予算」へと切り替えることで、公平で高効率なリソース配分を実現したという。

数千基のGPUに対し需要が供給の2〜3倍に達する運用実態

Ai2では、NVIDIA H100、B200、B300を数千基規模で管理し、88基から1024基構成の複数クラスタを運用している。これらは所内約150名の研究者が利用し、大規模言語モデル（LLM）や視覚言語モデル（VLM）の学習、ロボティクス向け強化学習、科学向けエージェントの事後学習など多様な用途に用いられている。

同所によると、提出されるジョブ総量は常に利用可能GPUの2〜3倍に達しており、GPU 1時間あたり2〜3件のワークロードが常に競合している状態だという。

従来の優先度設定が招いた「居座り」とリソースの飢餓

同チームはこれまで、ジョブの優先度に基づくスケジューラを採用していた。各チームにはプリエンプション（実行中タスクを中断して高優先度タスクに資源を譲る仕組み）から保護された上限枠があり、中断可能なジョブであれば空きGPUを使って上限超過が認められていた。

しかしこの運用は現場で深刻な歪みを生んだ。デバッグ遅延を嫌った研究者が何もしない空ジョブを常駐させて枠をキープする「居座り（スクワッティング）」が発生。さらに全ジョブが「HIGH（高）」で投入されて低優先度ジョブが餓死する優先度インフレや、障害ホストの保守時にエンジニアがジョブ停止交渉に追われる事態も起きていたという。

共有資源の奪い合いと物理専有アプローチの限界

同チームは、限られた資源を巡り各自が自己利益を最大化しようとした結果、全体最適が崩れる「コモンズの悲劇（共有地の悲劇）」に陥っていたと説明している。

当初は特定プロジェクトにGPU専有枠を与える回避策を講じたが、研究の繁閑によって専有されたGPUが遊休化する一方、他チームが待たされる非効率が生じた。動的な需要を固定スケジュールに押し込める「ナップサック問題（限られた容量に最適な組み合わせを詰める最適化問題）」を手動で解こうとしていた状態だったという。同チームは、稼働率維持を条件にマシンを与えたところ利用者が無限ループコードを仕込んで稼働率を偽装したという2011年の研究論文（DRF）の逸話を引き、インセンティブ設計の難しさを指摘している。

4つの評価指標と「時間予算」による新たなスケジューリング

そこでAi2は物理マシンの割り当てを改め、各チームに「GPU時間」を割り当てるモデルへ方針を転換した。新システムはGPU時間予算、階層的フェアシェア（公平配分）割り当て、タイムスライシング契約で構成される。これにより資源配分の議論を、現場での個別交渉から組織戦略に基づく透明な予算編成プロセスへと移行させたとしている。

また、同チームはクラスタ運用の評価基準として4層のピラミッド指標を提示した。土台となる「可用性（稼働準備状態）」の上に「占有率（特定ジョブへの割当割合）」、高価値なジョブが選ばれる頻度を示す「インパクト」、頂点に「使用率（消費されたGPU能力の割合）」を位置づけている。

科学実験の性質上、将来の需要を事前に正確に予測することは難しくとも、研究間の戦略的優先度は決定できると同チームは強調する。新手法により、クラスタ全体の高い稼働率を保ちつつインパクトの高い研究へ計算資源を集中させる狙いだ。