サーバーレス環境でのAIエージェント呼び出しにおける待機コスト削減手法をAWSが公開、非同期パターンでアイドル課金を解消
要点
-
米AWSは、サーバーレス環境から「Amazon Bedrock AgentCore」エージェントを呼び出す際に生じる待機コストを削減する非同期設計パターンを公開した。
-
従来の同期的な呼び出しでは、AIエージェントの応答待ちの間も呼び出し側のAWS Lambdaなどが稼働し続け、秒単位で無駄な課金が発生する課題があった。
-
Bedrock AgentCore runtimeはアイドル中のCPU課金が発生しないため、コストの浪費原因は呼び出し元がオープン接続のまま待機している点にあると指摘した。
-
待機中のコンピュートリソースを解放するアプローチとして、「タスクトークン・コールバック」「直接サービス統合」「高耐久関数」の3つのパターンが示された。
-
米アマゾン・ウェブ・サービス(AWS)は2026年8月19日、機械学習に関する公式ブログ(AWS ML Blog)において、サーバーレスパイプライン内で「Amazon Bedrock AgentCore」エージェントを呼び出す際の非同期パターンを解説する記事を公開した。AIエージェント特有の応答待ち時間に伴うコンピュートリソースの無駄な課金を抑え、効率的にシステムを連携させる手法が紹介されている。
エージェントの思考時間と同期呼び出しに伴う待機課金
AIエージェントを組み込んだパイプラインにおいて、呼び出し側のアーキテクチャ設計がインフラコストに直結することが示されている。Amazon Bedrock AgentCoreは、任意のフレームワークやモデルを用いて大規模にエージェントを構築・連携・最適化できるプラットフォームである。
こうしたエージェントは、従来のパイプライン処理とは異なり、回答を出力するまでに一定の思考時間を必要とする特徴を持つ。所要時間はプロンプトの内容や利用モデル、対象ドキュメントによって変動し、即座に応答が返るケースは少ない。
記事によれば、最も一般的に実装されやすいのは、サーバーレスでコードを実行するAWS Lambdaなどのコンピュートサービスからエージェントを同期的に呼び出し、応答を待機する構成だという。しかし、この方式では呼び出し元の関数が結果を待つ間、何も処理を行っていないにもかかわらず実行状態が維持され、待機時間中も秒単位で全額のコンピュート料金が課金され続ける問題があると説明している。
呼び出し側とエージェント側の課金構造の違い
AWSは、このコスト問題の本質が呼び出し側とエージェント側における課金モデルの差異にあると解説している。Amazon Bedrock AgentCoreの機能である「Amazon Bedrock AgentCore runtime」は、利用実績に応じた従量課金モデルを採用している。
同実行基盤では、エージェントが大規模言語モデル(LLM)による応答生成を待っている間や、ツール、外部連携規格であるModel Context Protocol(MCP)の戻り値を待機している間、メモリ使用量のみが課金対象となり、CPUの料金は発生しない。
一方で、呼び出し元となるAWS Lambdaやコンテナ、仮想サーバー機能のAmazon Elastic Compute Cloud(Amazon EC2)にはそのような仕組みがない。同期呼び出しを行った呼び出し元はブロックされた状態となり、エージェントが応答するまで割り当てられた全リソース分の費用を支払い続けることになる。そのため、リソースの浪費はエージェント側ではなく、接続を開いたまま待機している呼び出し側で発生していると指摘している。
リソースを解放する3つの非同期パターンと検証パイプライン
この課題を解決するため、AWSはエージェントの処理待ち時間中に呼び出し側のコンピュートリソースを解放し、結果が得られた段階でパイプラインを再開する非同期設計を推奨している。記事では、ブロッキングを伴うアンチパターンとの対比として以下の3つのパターンが挙げられている。
- タスクトークン・コールバック(task-token callback): パイプラインを一時停止させ、エージェントの処理完了通知を受け取った段階で後続処理を再開する方式
- 直接サービス統合(direct service integration): 中間にコンピュートサービスを挟まず、サービス間で直接連携を行う方式
- 高耐久関数(durable function): 実行状態を保持しながら長時間の非同期フローを制御する関数を用いる方式
各パターンを公平に比較するため、記事では不動産融資における書類検証を模した5段階のパイプライン例が提示されている。
- 抽出(Extract): AWS Lambdaが光学文字認識(画像から文字を読み取るOCR技術)とテキスト抽出を実施する(シミュレーション実行)。
- 識別(Identify): Lambda関数がドキュメントを分類し、整理フラグや検証フラグを設定する。
- ルーティング(Route): ワークフローの条件分岐を制御する「Choiceステート」がフラグに応じて処理フローを振り分ける。
- 整理と検証(Organize and Validate): 並列処理を制御する「Parallelステート」を用い、一方のブランチで書類を整理し、並行する別ブランチでBedrock AgentCoreエージェントが書類の整合性や完全性を検証する。
エージェントを呼び出してその結果をもとに後続処理を行うあらゆるワークフローにおいて、待機中のコンピュートを解放して非同期に処理をつなぐ設計が重要であると示されている。