AIエディタ「Cursor」、エージェント実行基盤の刷新でトークンコストを7%削減　プロンプト削減やツールの動的読み込みを導入

要点

• Cursorはエージェント実行基盤の最適化を実施し、エージェントの品質を維持したままユーザーのトークンコストを7%削減したと発表した。

• モデルの指示追従性向上に伴い冗長な指示を整理し、システムプロンプトの記述量を約66%削減した。

• 使用頻度の低い組み込みツールを必要時に読み込む方式へ移行し、静的コンテキストのツール定義トークンを60%削減した。

• GPT-5.6の明示的キャッシュブレークポイント導入とコンテキスト再配置により、コールドキャッシュミス率を20%改善した。

• AIコードエディタを手がけるCursorは2026年9月23日、AIエージェントの長時間実行に伴うトークン消費効率を改善する一連の最適化策を公式ブログで公開した。エージェントを制御する実行基盤（ハーネス）の構造を見直すことで、エージェントの出力品質を維持したまま、ユーザーのトークンコストを7%削減したことを明らかにしている。

エージェントの長時間動作に伴うトークン消費構造の変化

Cursorによると、エージェント機能が高度化し、より大規模で複雑なタスクを処理できるようになるにつれて、推論におけるトークン消費の性質が変化してきたという。エージェントが長時間にわたって稼働し、ステップごとに多くのコンテキストを引き継ぎながら処理を進めるようになったため、それらのコンテキストをいかに効率的に構成・管理するかが運用コストの重要な要因となっていた。

これに対し同社は、リクエストの生成やコンテキストの再利用、エージェント間のタスク分割を司る実行基盤の各層に対して、数カ月にわたる最適化を実施したと説明している。

モデルの進化に応じたシステムプロンプトの66%削減

エージェントの各ターン（やり取りの1往復）では、モデルが推論を開始する前にシステムプロンプトや利用可能なツールの定義といった初期コンテキストが毎回送信される。これらは会話全体を通して継続的に含まれるため、運営側が直接管理できるコンテキストの中でも消費比率の高い要素となっていた。

従来は基盤モデルの能力が十分でなかったため、ツールの詳細な使い方やタスク管理手順、コード変更手順を細かく指示する必要があった。さらに、異常に長いハッシュダンプやバイナリデータの出力、絵文字の使用といった意図しない挙動を防ぐため、「〜してはならない」「必ず〜すること」といった禁止事項や必須事項を多数記述してモデルの動作を制御していた。

しかし近年のモデル性能向上により、そうした長大な禁止リストがなくとも、ツールの基本的な挙動を定義するだけでモデルが意図通りに動作するようになったという。Cursorは複数のモデルファミリーにわたってこの傾向を確認した上で指示文の整理を行い、システムプロンプトの記述量を約66%削減することに成功したとしている。

組み込みツールの動的読み込みと静的コンテキストの軽量化

システムプロンプトと並んで毎ターン送信されるツール定義についても見直しが行われた。Cursorではシェル監視機能やクラウドサブエージェント、Webコンテンツ取得機能など、エージェントの機能拡充に伴ってツール定義のサイズが大幅に増大していた。しかし利用ログを分析したところ、多くの個別ツールの利用率は全会話の20%未満にとどまっていたという。

同社は以前、外部ツール連携規格であるMCP（Model Context Protocol）のツール群を動的コンテキストへ移行し、必要時のみ読み込む方式にしたことで、MCPツールを使用するセッション全体のトークン数を46.9%削減した実績を持っていた。今回、この手法をCursorの標準組み込みツールにも適用した。

どのツールを常時保持（静的コンテキスト）とし、どれを動的読み込みとするかを決定するため、ツールの利用頻度や開始時の必要性を変えた複数の構成でA/Bテストを実施した。その結果、ファイルの読み込み、検索、コード編集、シェル実行といった高頻度ツールに加え、モデルの誤呼び出しが発生しやすい「ask_question」や、Planモードで不可欠な「create_plan」などを静的コンテキストに残す判断を下した。その他の利用頻度の低いツールをオンデマンド読み込みへ移行したことで、静的コンテキストにおけるツール説明トークンは60%削減された。

明示的キャッシュブレークポイントによるキャッシュ再利用の効率化

静的コンテキストの削減に続き、会話ターン間におけるプロンプトキャッシュの再利用効率の改善も実施された。エージェントは毎ターン、システム指示、ツール定義、初期設定、それまでの会話履歴を含むリクエストを送信する。先頭のシステム指示などはターン間で変化しない一方、末尾の会話履歴はターンを追うごとに肥大化していく。

モデル提供元のプロンプトキャッシュ機能（同一のプロンプト接頭辞を再利用して推論コストや遅延を削減する仕組み）を利用する際、GPT-5.6以前のOpenAI APIでは最新リクエストに基づく自動的な境界判定に依存しており、変更の少ないツールやシステム指示が単独で確実に再利用対象として固定されにくい課題があった。

これに対し、GPT-5.6で導入された明示的なキャッシュブレークポイント（キャッシュ境界を手動で指定する機能）を活用し、変更のない安定したリクエスト層の後方、かつ増大する会話履歴の手前にブレークポイントを設定した。さらに、スキル定義やサブエージェント設定、環境情報など変動しやすい要素をキャッシュ境界の後ろ側（同社が「ファントムユーザーメッセージ」と呼ぶ領域）へ退避させることで、接頭辞の安定性を高めた。これらの一連の調整により、コールドキャッシュミス（キャッシュが効かずに全量読み込みが発生する状態）の発生率が20%減少したという。

実トラフィックに基づくA/Bテストによる品質検証

Cursorは、これらの最適化において実際のユーザーによる大規模なトラフィックを用いたA/Bテストが不可欠であったと述べている。一般的な評価セット（Evals）は難度の高い課題に偏る傾向があり、実際のユーザーリクエストの分布を正確に反映しにくいためである。トークン使用量やコスト、遅延に加えて、ツール呼び出しのエラー率やエージェントの利用率全体を継続的に監視することで、品質を犠牲にしないコスト削減を実現したとしている。