AWS、Amazon Bedrockを活用した意思決定支援AI「NarrateAI」の品質保証技術を公開

要点

• AWSが、社内エグゼクティブ4,000人以上が利用する意思決定支援AI「NarrateAI」の品質保証（QA）アーキテクチャを公開した。

• リアルタイムで回答をストリーミング配信しながら、約99％という高い数値精度を達成する仕組みを確立している。

• クエリのデータ量に応じた適応型ルーティングや、複数アカウント間のモデルフェイルオーバーなど5つの技術を連携させた。

• 段落ごとのリアルタイム並列評価と、2段階のデータ精度検証カスケードにより、遅延とハルシネーションを抑制している。

• アマゾン ウェブ サービス（AWS）は2026年9月25日、公式機械学習ブログ（AWS ML Blog）において、大規模言語モデル（LLM）を活用した意思決定支援システム「NarrateAI」の品質保証（QA）技術を解説する記事を公開した。NarrateAIは、4,000人以上のAWS経営幹部向けにビジネスデータを即座に分析・提供するシステムとして運用されている。本記事では、応答の即時性を維持しながら約99％の数値精度を実現する5つの連携技術が明らかにされた。

開発背景と本番環境における課題

NarrateAIは、経営幹部が参加するライブの事業レビューにおいて、データに基づく迅速な意思決定を支援する対話型AIアシスタントだ。「目標未達の地域とその要因」といった質問に対し、正確なデータを即座に提示することが求められる。
しかし、本番環境のLLM運用では、誤った数値を生成するハルシネーション（事実に基づかない誤情報の生成）や、アクセス集中によるAPIスロットリング（利用制限）、検証に伴う応答遅延、主観的な表現の混入といった課題が生じる。役員会議のような場では数値の誤りや遅延が重大な影響を及ぼすため、データ取得から回答配信に至る全工程に本番水準の品質保証を組み込む必要があったという。

Bedrock AgentCoreを基盤とする2層アーキテクチャ

NarrateAIは、AIエージェントの構築や最適化を行う基盤「Amazon Bedrock AgentCore」上に構築された2層構造を採用している。システムは、バッチ処理を担う「自動ナラティブ生成層」と、リアルタイムな対話を受け持つ「会話型AIインターフェース層」で構成される。今回の発表では、後者のリアルタイム対話層において正確性と低遅延を両立する品質保証の仕組みに焦点が当てられた。

精度と即時性を両立する5つの連携技術

システム内では、データ取得から生成、品質検証に至る5つの技術が多層的な依存関係を結びながら協調動作している。

適応型パイプラインオーケストレーション（Adaptive Pipeline Orchestration）

要求されるデータ量に応じて処理経路を最適化する仕組みである。大半のクエリは高速な単一パスで処理を完了させ、大規模で複雑なデータ集計を要するクエリのみを完全な並列処理パイプラインへルーティングすることで、全体の応答時間を短縮している。

クロスアカウント・マルチモデル・フェイルオーバー（Cross-Account Multi-Model Failover）

複数の独立したAWSアカウントやモデルのクォータ（利用上限枠）空間を横断して推論容量を拡張する技術である。世界規模での同時アクセス下でもAPI制限を自動で回避し、ユーザーに見えるスロットリングの発生を低減させている。

リアルタイム・ストリーミング評価（Real-Time Streaming Evaluation）

全文の生成完了を待たず、段落が出力された瞬間に品質検証を実行する。テキスト生成処理と品質評価処理を時間的に重複（オーバーラップ）させることで、検証に伴う待ち時間を大幅に削減している。

複合評価フレームワーク（Composite Evaluation Framework）

ストリーミング出力された各段落に対し、独立した複数の評価器を並列実行する仕組みである。単一の基準に依存せず多角的な検証ロジックを同時に走らせることで、ビジネス利用に適した書式や表現の妥当性を瞬時に判断する。

データ精度検証（Data Accuracy Verification）

数値の誤りを防ぐため、2段階のカスケード構成を採用している。まず計算コストの低い完全一致（Exact Matching）で元データと照合し、不一致や曖昧さがある場合のみ高度な意味検証へと段階的に移行する。この2段階判定により、約99％という高い数値精度を担保していると説明している。

補足

本記事はNarrateAIに関する技術解説シリーズの第2弾であり、前回記事で示された全体構造やUX設計に続き、リアルタイム層における品質保証の実装に特化して紹介されたものである。