Descript、OpenRouter導入でAIモデル評価を1週間から数時間に短縮——本番環境で4社13モデルを運用
要点
- AI動画・音声編集プラットフォームの米Descriptが、推論レイヤーに「OpenRouter」を採用した事例を公開した。
- 新規LLM（大規模言語モデル）の評価期間を1週間以上から1〜2時間へ短縮し、本番環境で運用するモデル数を1種類から13種類へ拡大した。
- 障害発生時にモデルそのものを切り替えるのではなく、同一モデルを提供する別の推論ホストへ切り替える自動フォールバックを構築した。
- Slack連携によるテストとプルリクエストの自動生成、およびオープンウェイトモデルの活用により、品質を維持したままモデル利用コストを従来の半分以下に削減した。
AIを活用した動画および音声編集プラットフォームを提供する米Descript（本社：カリフォルニア州サンフランシスコ）が、LLMの推論基盤として統一APIサービス「OpenRouter」を導入し、モデル評価から本番適用までの工程を大幅に高速化したことが明らかになった。OpenRouterが2026年9月15日に公開した事例記事によると、Descriptはこれまで新モデルの検証着手までに1週間以上を要していたが、導入後は週に複数回の評価を実施し、発表からわずか数時間で本番投入できる体制を整えたという。2026年8月時点で、同社の本番環境では4社・計13種類のモデルが稼働している。
エンジニアの作業待ちが生じていた従来の検証体制
Descriptは、テキストの書き起こしをベースにした編集機能や音声強化、音声クローンなどを提供する編集プラットフォームで、125名以上の従業員を擁する。同社の動画編集AIエージェント「Underlord」は、LLMと自社専用のハーネス（モデルの振る舞いや動画編集手順を制御する実行基盤）を組み合わせて動作している。
同社でAIプロダクト責任者を務めるAleks Mistratov氏によると、Descriptの主要な用途はYouTube動画やマーケティング動画、ビデオポッドキャストといった、人物が語る形式の「トーキングヘッド動画」だという。これらはトランスクリプト（文字起こしテキスト）に沿ったストーリー展開が中心となるため、一般的な公開ベンチマークのスコアだけでは実際の編集業務に適しているかを判断できないという課題があった。
以前のDescriptは、OpenAI、Anthropic、Googleの3社と直接API接続を維持し、自前でフォールバック（障害時の代替処理）ロジックを組んでいた。当時のフォールバックは、GPTのリクエストが失敗した際にAnthropicのモデルへ切り替えるといった「モデル自体の差し替え」を行う仕組みだった。
しかし、モデル提供元ごとに要求されるパラメータ仕様が異なる「パラメータドリフト」が頻発し、新モデルの追加時には仕様差分の調査やデバッグに数時間を費やす技術的摩擦が生じていた。さらに組織面でも、モデルを試したい担当者が自力で設定を追加できず、エンジニアのカレンダーに作業時間を確保する必要があった。その結果、実際の作業自体は数時間であっても、エンジニアの作業キュー（順番待ち）に入ってから着手されるまでに数日を要し、有望なモデルの検証結果を得るまでに1週間以上の待ち時間が発生していたと説明されている。
1つの接続で4社13モデルを並行運用、推論プロバイダー単位の冗長化
Descriptは当初、実質的に1種類のモデルのみを本番運用していたが、Claudeの導入にあたってOpenRouterを採用した。これを契機に接続インターフェースを1本化したことで、追加の統合コストを大幅に抑えながらモデルの拡充を進めた。
2026年8月現在、同社の本番環境では以下の4社・13モデルが稼働している。なお、Anthropicの初期パートナーとして提供される早期アクセス用APIを除き、本番接続はOpenRouter経由に集約されている。
- Anthropic: Fable 5、Opus 5、Opus 4.8、Opus 4.7、Opus 4.6、Sonnet 5、Sonnet 4.6、Haiku 4.5（このうち5つは最上位クラスのモデル）
- Google: Gemini 3.1 Pro、Gemini 3.5 Flash
- OpenAI: GPT-5.4、GPT-5.5
- xAI: Grok 4.5
Descriptは各モデルの配下に置く推論プロバイダー（モデルをホストするインフラ事業者）をモデルごとに個別に設定している。OpenRouterが提示するスループット、稼働率、コストの指標をもとに優先順位を決め、自社のデータ保持ポリシーを満たす事業者のみにリクエストをルーティングしている。
この構成により、同社は従来の「モデルを切り替えるフォールバック」から、「同一モデルのまま別の推論プロバイダーへ切り替えるフォールバック」へと移行した。あるホストで障害が発生しても、出力するモデル自体を変えずに処理を継続できる。
また、オープンウェイトモデル（モデルの重みデータが一般公開されているLLM）の専用デプロイ環境としてBasetenを利用しており、自社のAPIキーを持ち込む「BYOK（Bring Your Own Key）」形式で接続している。OpenRouter経由でBasetenをプライマリに指定し、同一データポリシー内の別プロバイダーをバックアップに設定することで、個別契約を維持したままレート制限や障害に対する冗長性を確保している。
Slack連携による評価自動化とモデル利用コストの半減
現在、Descriptでは週に複数回の頻度でモデル評価が実行されている。評価対象の多くは本番投入に至らないが、高頻度なスクリーニング自体を目的としているという。
評価のワークフローも自動化された。Mistratov氏が新モデルのリリース情報を確認し、OpenRouterの該当リンクを添えてSlackに評価依頼を投稿すると、AnthropicのSlack連携機能「Claude Tag」が起動する。事前に設定されたスキル群に基づき、Claude Tagが自社ハーネス上で評価テストを実行し、モデル追加のプルリクエスト（PR）とフィーチャーフラグ（機能の有効・無効を切り替える設定フラグ）適用のPRを自動で作成する。人間は内容を確認して承認するだけで済むため、Mistratov氏は「キーボードに触れることすらなく評価が完了する」と述べている。
直近のAnthropic製モデルのリリースでは、発表から本番公開までわずか数時間で完了した。現在残っている手作業は、社内評価の確認、既存モデルとの比較判定、モデル選択設定、フィーチャーフラグのデプロイといった自社内の判断と設定のみとなっている。
DescriptのAI Enablementチームでテクニカルリードを務めるKeith Simmons氏は、フロンティアモデル（最先端の高性能モデル）の利用コスト増大を懸念していた。週に複数回の検証ループを回した結果、Baseten上で運用するオープンウェイトモデルの採用に至り、自社テストケースでの品質基準を維持したまま、モデル関連の総支出を従来の半分以下に圧縮できたとしている。