GPU割り当ての「順序」最適化で稼働率が最大33ポイント向上、Dharma-AIが制約対応スケジューラを開発

要点

• Dharma-AIがジョブの制約条件を考慮したGPUアロケーターを開発し、従来のFIFO方式との比較検証結果を公開した。

• 同一ハードウェア上で同一ワークロードを実行した結果、GPU稼働率が最大33ポイント向上した。

• 優先度で重み付けした処理成果（priority-weighted output）は全検証シナリオで増加し、最大105％向上した。

• リアルタイム推論向けの終日固定予約や到着順割り当てによる待機損失を、配置順序の最適化によって解消している。

• AI開発チームのDharma-AIは2026年8月17日、ジョブの制約条件を考慮してGPUの割り当てを最適化する新しいスケジューラ技術を開発したと発表した。同一ハードウェア上で同一ワークロードを実行した検証において、従来のFIFO（First-In, First-Out：先に到着した要求から順に処理する方式）スケジューラと比較し、GPU稼働率が最大33ポイント向上したという。ハードウェア構成には一切変更を加えず、割り当てを決定する順序を再構成したことで性能改善を達成したと報告されている。

GPU割り当てにおける構造的課題

Dharma-AIによると、GPU管理における本質的な決定は単に「GPUを稼働させ続ける」ことではなく、「どのGPUで、どのジョブを、どの時間枠で、どの優先度で実行するか」という点にあるという。これはGPU、ジョブ、時間枠の組み合わせごとに二値の選択を行う問題であり、スケジュール期間全体の配置グリッド（格子状の割り当て表）として決定される。

このグリッド上では、トレーニング、リアルタイム推論、バッチ推論、量子化（モデルのパラメータ精度を調整して計算負荷やメモリ消費を抑える処理）という4種類のワークロードがリソースを競い合う。これらは大きく2つの形状に分かれる。トレーニング、バッチ推論、量子化はバッチ型の性質を持ち、処理が開始されると完了まで中断なく連続したGPUブロックを占有し続ける必要がある。さらに同一モデルであっても、トレーニングジョブの実行時間は数時間から数日におよび、必要なGPU数も1基から数十基まで幅広く変動する。一方でリアルタイム推論は、トラフィック需要の変動に応じて時間枠ごとに必要容量が増減する伸縮性を備えている。性質の異なるワークロードが同一ハードウェア上で競合することが、スケジューリングを困難にする要因となっている。

従来のFIFO方式が抱える2つのリソース損失

クラスタに余力がある環境ではFIFO方式でもすべてのジョブを収容できるが、リソース競合が発生すると深刻な容量損失を生み出す。Dharma-AIはその要因として2つの問題を指摘している。

1つ目は、リアルタイム推論向けの固定予約に伴う損失だ。リアルタイム推論はトラフィック発生時に即座にGPUを必要とするため待機させることができない。しかし従来の到着順スケジューラにはオフピーク時にGPUを解放し、次のピーク前に再確保する仕組みがないため、1日の最大需要分のGPUを24時間固定予約せざるを得ない。例えば昼間のピークに6基、午前4時に2基を必要とする場合でも終日6基を確保し続けるため、夜間に生じる4基の遊休GPUはバッチジョブにも割り当てられない。この固定予約が主因となり、従来のベースライン稼働率は混合環境で51.6％、トレーニング重視環境で53.6％と、クラスタの約半分に留まっていた。

2つ目は、配置順序の固定化に伴う損失だ。リソース逼迫下では、どのジョブをどの順序で配置するかという決定そのものが実質的なキャパシティ決定となる。しかしFIFO方式はジョブの価値や優先度を評価せず、後続タスクも考慮しないまま到着順に割り当てる。その結果、優先度の高い重要タスクが待たされたり、後続ジョブが利用できない非効率な形でリソースが確定したりする。

制約対応アロケーターによる改善成果

これら2つの問題が複合することで、最大需要分として確保されたGPUがバッチキューから遮断され、残りの容量も到着順に非効率に消費されていた。

Dharma-AIが構築した制約対応アロケーター（GPUリソースを各計算ジョブに割り当てる管理システム）は、これらの制約を考慮して割り当て決定の順序を最適化した。7つのシナリオでベンチマークを実施したところ、FIFO方式と比べてGPU稼働率は最大33ポイント向上した。さらに、優先度を加味したアウトプットの総量はすべてのシナリオで増加し、最大105％の向上を記録したとしている。