OWN NEWS GATHER
← 戻る
OpenRouter Blog

OpenRouter、週間55兆トークンの利用実績データを基に最適モデルを自動選定する新「Auto router」を正式リリース

要点

  • OpenRouterは2026年8月10日、ユーザー全体の実際の利用傾向と支出シェアに基づいて最適なAIモデルを動的に選択する新「Auto router」を発表した。
  • 週間55兆トークン超の消費実績と直近7日間のデータを参照することで、新規モデルの登場にも数日以内で自動適応する仕組みを導入した。
  • プロンプトを約30種類のタスクへリアルタイムに分類し、ユーザーが指定した5段階のコスト帯に合わせて最適なモデルへ振り分ける。
  • 複数分野のベンチマーク評価において、標準設定でのコスト削減と最高性能設定での大幅な精度向上(特にコーディングやエージェント領域)を確認している。
  • 対話の継続性を保ち入力キャッシュの破棄を防ぐ「スティッキー動作」や、プロンプトを保持しないプライバシー保護機構を搭載している。

LLM(大規模言語モデル)のルーティングおよびAPIアグリゲーションサービスを提供するOpenRouterは2026年8月10日、プロンプトの内容に応じて最適なモデルを自動選択する機能「Auto router(openrouter/auto)」のメジャーアップデートを発表し、全ユーザー向けに一般提供を開始した。数週間にわたる数千人規模のベータテストを経て正式導入されたもので、プラットフォーム全体で発生する膨大な利用データをモデル選択の基準に組み込んでいる。

週間55兆トークンの消費データを反映する「市場の集合知」アプローチ

OpenRouterによると、同プラットフォーム上では日々数兆トークン、週間で55兆トークンを超える利用が発生している。新世代のAuto routerは、この膨大な利用者が実際にどのモデルを選択し支出しているかという「市場の集合知(Wisdom of the Market)」を集計データとして活用する。

従来の固定的なルールや単一の評価基準に基づくルーターとは異なり、直近7日間のOpenRouter全体の消費実績を参照してパレート最適なルーティング曲線を生成する。これにより、市場に新たな高性能モデルや安価なモデルが登場して利用者が移行した場合でも、ルーター側の手動更新を待つことなく数日以内に自動で選定結果へ反映されるという。

4段階の処理フローと5つのコスト階層

新Auto routerにおける処理は、主に以下の4つのステップで実行される。

  1. タスクの高速分類: 軽量な分類器が入力されたプロンプトを即座に解析し、コードのデバッグ、マルチステップのエージェント計画、知識Q&A、数学、カスタマーサポート、調査レポートなど、約30種類の詳細なタスク種別に分類する。
  2. 支出シェアに基づく順位付け: 該当するタスク種別において、過去7日間にコミュニティが実際に支払った金額シェア(Share of Spend)の統計を参照し、各モデルの適合度を順位化する。
  3. コスト階層(cost_tier)の適用: 利用者が指定した予算レベル(lowmediumhighxhighmaxの5段階)に応じて候補モデルを絞り込む。最も安価なlowでは各タスクで能力を満たす低価格モデルが、最高峰のmaxでは価格に関わらず最高性能のモデルが選定される。
  4. フォールバックと制約の遵守: 支出シェア順にプライマリモデルと代替(フォールバック)モデルを設定してルーティングを実行する。アカウントごとに設定された許可モデルリスト、ガードレール、ZDR(ゼロデータ保持)ポリシーなどの制約も維持される。なお、分類やランキング機能に障害が発生した場合は既定のモデルセットに自動でフォールバックするため、リクエスト自体が失敗することはないとしている。

ベンチマーク評価とコストの検証結果

OpenRouterは新ルーターの汎用性を検証するため、知識、エージェント、検索、リサーチ、コーディングの5分野にわたるベンチマークを実施し、旧ルーターとの性能およびコストの比較データを公開した。

標準設定(新ルーターのcost_tier=lowと旧ルーターのcost_quality_tradeoff=7)の比較では、知識測定の「MMLU Pro」で85.2%(旧86.6%)とほぼ同等の精度を維持しつつ、コストを約393ドルから約140ドルへと大幅に圧縮した。エージェント処理の「τ³-bench Banking」でも同等精度(新20.6%、旧21.0%)でコストを半減させている。さらに検索の「WideSearch」(新61.6%、旧53.1%)やリサーチの「DSQA」(新62.9%、旧43.2%)では精度向上を記録した。

最高性能設定(新ルーターのcost_tier=maxと旧ルーターのcost_quality_tradeoff=0)においては、性能の引き上げがより顕著に現れている。コーディングベンチマークである「SWE-Atlas QnA」では旧設定の正答率2.4%に対して新ルーターが60.7%を記録したほか、「τ³-bench Banking」でも7.2%から31.6%へと精度が大幅に向上した。最高設定では性能を最優先するため一部ベンチマークで消費コストが増加するものの、最高峰の処理能力を確実に引き出す挙動が確認されたとしている。

キャッシュ保護とプライバシー設計

モデルの切り替えに伴う効率低下を防ぐ工夫も盛り込まれている。複数モデル間を頻繁に行き来すると入力キャッシュ(プロンプトキャッシュ)の再構築コストが発生するため、新Auto routerではマルチターンの対話において、現在使用しているモデルがそのタスクの有力な選択肢であり続ける限り同一モデルを維持する「スティッキー動作」を実装した。

また、プロンプトの分類処理はインフライト(メモリ上)でリアルタイムに実行され、データを永続保存することはない。ランキング生成にも集計・匿名化された支出統計のみが使用されるため、顧客のプライバシーポリシーやデータ保護方針を損なうことなく機能するという。

利用方法

新Auto routerは、OpenRouterの推論エンドポイントに対してパラメータ "model": "openrouter/auto" を送信することで利用できる。なお、今後の改善機能を先行して利用したい開発者向けには openrouter/auto-beta エンドポイントも提供されている。

元URL