OpenAI、エージェントの判定処理に特化した「Decisions API」を一般公開　GPT-6 Luna採用で最大10倍高速化

要点

• OpenAIは、アプリケーションやAIエージェントの分岐判断を高速化する「Decisions API」の一般提供を開始した。

• 基盤モデルに「GPT-6 Luna」を採用し、回答範囲が限定された判定処理において従来のResponses API経由と比較して最大10倍の高速化を実現した。

• 出力タイプとして条件確率（predicate）、選択（choice）、段階評価（score）の3形式をサポートし、1リクエストあたり最大400件の質問に対応する。

• リアルタイム音声対話基盤「GPT-Live」とネイティブ統合し、会話中の即時ルーティングやアバターの表情制御が可能となった。

• 先行導入企業からは、処理遅延（レイテンシ）の最大40倍改善や呼び出しコストの90％削減といった効果が報告されている。

• 米OpenAIは2026年10月22日、AIエージェントや各種ソフトウェア内の意思決定処理を高速かつ低コストに実行するための新機能「Decisions API」の一般提供（GA）を開始したと発表した。

• 本APIは同社の軽量・高速モデル「GPT-6 Luna」を基盤に構築されており、回答の選択肢があらかじめ限定された質問処理に特化させることで、従来のResponses API経由と比較して最大10倍の処理速度を達成したとしている。

エージェントの連鎖的判断に伴う遅延とコストを削減

AIエージェントやアプリケーションのワークフローでは、入力データの分類やリクエストの転送先選定、次に行う操作の決定といった細かな判断が頻繁に発生する。個別の処理は単純であっても、システム全体で大量に繰り返されることで処理待ち時間やコストが累積する課題が存在していた。

Decisions APIは、テキストや画像、構造化データを入力として受け取り、限られた選択肢の中からほぼリアルタイムで判断を下す仕組みを提供する。パブリックベータ版以降の改善として、文脈情報を再利用して処理を効率化するプロンプトキャッシング機能や、米国および欧州を対象とした推論データ保管（インファレンスレジデンシー）機能に対応した。さらに、ネイティブJSON形式の入力や指示文への画像添付が可能になり、1リクエストあたりの質問上限も従来の2倍となる最大400件に拡大された。あわせて、アジアの複数地域におけるキャパシティ増強など、レイテンシの改善も継続して行われているという。

3種類の出力形式による柔軟な制御

Decisions APIでは、開発者が質問内容と許容される回答を定義することで、用途に応じた3種類の形式で結果を取得できる。

1つ目は条件の成立確率を0から1の範囲で推定する「predicate（述語）」で、製品の目視可能な損傷の有無といった真偽判定に用いられる。2つ目は事前定義された選択肢から選ぶ「choice（選択）」で、エージェントが処理を続行するか確認を求めるかなどの分岐決定に利用され、選択された値とともに確率や信頼度も返される。3つ目は評価基準（ルーブリック）に基づいて段階評価を行う「score（スコア）」で、損害の深刻度などを順序付けられた段階の確率加重平均値として算出する仕組みとなっている。

リアルタイム音声基盤「GPT-Live」との連携

あわせて、自然な音声会話を実現する基盤「GPT-Live」とのネイティブ統合も発表された。対話中にDecisions APIを直接呼び出すことで、リアルタイムな状況判断が可能となる。

カスタマーサポートにおけるエスカレーションや確認質問の要否判断に加え、ユーザーの発話に合わせてアバターの表情を切り替えるといった視覚的演出への応用も紹介されている。発話テキストの更新差分をトリガーとしてアバターの反応（中立、喜び、悲しみ、懸念など）を判定し、キャラクターの感情表現を即座に動かすことができるという。

最大40倍の高速化など、社内外で導入効果を実証

すでに複数の企業がDecisions APIを本番環境へ導入しており、大幅な性能向上が報告されている。

運用自動化ツールを開発するDatadogでは、エージェントが生成した運用シェルコマンド（rshell）のリスク評価に採用された。上位95％の処理遅延（p95レイテンシ）がフロンティアモデル比で40倍高速化し、遅延が許されない即時実行経路への配置が可能になったと説明している。対話型AIを手がけるSierraでは顧客対応の進行制御に活用され、p95で280ミリ秒未満を記録し、従来手法比で約3倍の高速化と90％のコスト削減を達成した。Speakでも語学学習アプリのアクション遅延を1.4秒から0.13秒へ90％以上短縮させたという。

このほか、Boxでの文書振り分け処理が約5倍高速化した事例や、RampにおけるAIコスト配分処理の4倍高速化・30％低コスト化が報告されている。OpenAI社内においても、取引明細の自動分類やメディア報道の論点分析などに広く活用されているという。