Cloudflare、AIリクエストを最適モデルへ自動転送する「Auto Router」のパブリックベータを公開

要点

• 米Cloudflareは2026年9月30日、AIトラフィック管理基盤「AI Gateway」向けの新機能「Auto Router」のパブリックベータ版を提供開始した。

• モデル指定に「cloudflare/auto」を設定するだけで、リクエストの内容や難易度に応じた最適なAIモデルへ自動でルーティングされる。

• エッジの分類AIがタスクの種類や難易度を評価し、品質とコストのバランスが最も優れたモデルを自動選定する仕組みを備える。

• 社内検証では、OpenAIやAnthropicの最上位モデルのみを単独利用した場合と比較して最大30％のコスト削減を記録した。

• 米Cloudflareは2026年9月30日、同社のAIトラフィック管理基盤「AI Gateway」において、リクエストごとに最適なモデルを自動選択して割り振る新機能「Auto Router」のパブリックベータ版を公開した。

• 利用者がモデル名として「cloudflare/auto」を指定するだけで、ゲートウェイ側がタスクの内容や難易度を判別し、適切な能力を持つモデルへリクエストを転送する仕組みだ。

• 同社によると、社内環境における検証では最上位クラスのフロンティアモデルを常時利用し続けた場合と比較して、最大30％のトークン費用削減が確認されたという。

手動選択による過剰スペックの解消を目指す

企業におけるAI導入が進むにつれ、APIトークンの消費に伴うコスト管理が重要な課題となっている。現状ではOpenCodeやClaude Code、Codexといった開発・業務ツール上で利用者が手動でモデルを選択するケースが多く、メールやチャットの要約といった軽微な作業にまで最上位の高コストモデルが使われてしまうなど、過剰スペックによるコストの浪費が生じやすい実態があった。

CloudflareはこれまでもAI Gatewayを通じて予算設定や利用上限、ユーザーごとの利用可視化機能などを提供してきたが、利用者個人に毎リクエストごとのコスト意識を求める運用には限界があったと説明している。すべてのリクエストが集約されるゲートウェイ自身がインテリジェントな判断を下すことで、組織全体の支出を自動的に抑制しながら、高度な処理が必要な場面では最上位モデルを利用できる環境を維持する狙いがあるという。

社内ベンチマークで最大30％のコスト削減を記録

Cloudflareは社内のOpenCode環境や独自のエージェント実行基盤「Cloudflare OS」においてAuto Routerを先行導入しており、コーディングタスクなどでフロンティアモデルと同等の成果を確認している。

一般的なナレッジワークを対象とした社内ベンチマーク（メール、カレンダー、Slack、ファイル操作、旅行手配、財務など97タスク×各3試行＝計291試行）では、以下の検証結果が示された。

• cloudflare/auto: 成功率 86.6％（252/291）、総コスト 2.10ドル、成功1回あたりコスト 0.0084ドル
• OpenAI GPT-6 Sol: 成功率 84.2％（245/291）、総コスト 2.64ドル、成功1回あたりコスト 0.0108ドル
• Anthropic Claude Opus 5.5: 成功率 96.6％（281/291）、総コスト 5.91ドル、成功1回あたりコスト 0.0210ドル

検証結果において、cloudflare/auto はGPT-6 Solの80％、Claude Opus 5.5の35％のコストで同等水準の実用性能を発揮したという。高度な能力を必要としないタスクに高価なフロンティアモデルの料金を支払わないことが節約につながるとしている。また、単純なトークン単価の低さだけでなく、タスク完了までに要する総コスト（軌跡コスト）を予測して最小化することが重要であると説明している。

エッジ分類とユーティリティ計算による選定メカニズム

Auto Routerによるリクエスト処理は複数のステップで実行される。
まずリクエストを受信すると、AI Gatewayは利用可能な候補モデルのプールを構築する。リクエストの形式や実行モードに対応しているかを判別した上で、設定済みの認証情報、課金構成、アクセス制御、利用上限に合致するモデルを抽出する。障害が発生している上流プロバイダーやモデルは自動的に除外され、復旧後に再びプールへ復帰する。

続いて、エッジネットワーク上のGPUで稼働するWorkers AIのマルチヘッド分類モデルが、直近の会話履歴（最新のターンを優先）を解析する。分類モデルは以下の2系統のシグナルを出力する。

1. 14種類のタスクカテゴリ: コーディング、計画、調査、データ分析などのカテゴリごとの確率
2. 4次元の難易度スコア: 複雑さ、曖昧さ、リスク（重要度）、過去の文脈への依存度の4項目（各1〜5段階）

これらのシグナルと各モデルのベンチマーク結果をスコアリングマトリクスによって照合し、適合度を算出する。最終的なモデル選定は、以下のユーティリティ計算式に基づいて行われる。

utility = expected quality - adaptive cost penalty（効用 ＝ 期待品質 － 適応型コストペナルティ）

平易なリクエストではコストに対するペナルティが重く設定されるため小型モデルが選ばれやすく、タスクの難易度が高まるにつれてコストペナルティが緩和され、高性能モデルが採用されやすくなる設計となっている。
さらに、長時間のデバッグやコーディングなどのエージェントセッションでは、モデル切り替えに伴ってコンテキストのキャッシュが破棄され再書き込みコストが増加することを防ぐため、キャッシュリードコストも考慮して最適なルーティングが行われるという。