Couchbase、Amazon Bedrockを活用した「Capella iQ」のマルチモデル推論アーキテクチャを構築

要点

• Couchbaseは、データベース開発支援AI「Capella iQ」にAmazon Bedrockを導入し、複数の基盤モデルを選択できるシステムを構築した。
• 自然言語からのクエリ生成やインデックス推奨、対話型ワークフローにおいて、運用の柔軟性と耐障害性を高めた。
• Amazon EKS（Elastic Kubernetes Service）上のマイクロサービスが、認証、履歴の管理、プロンプトの構成、ルーティング設定を分担して処理する。
• AWSの「クロスリージョン推論（CRIS）」を採用し、米国本土の3リージョン間でトラフィックの自動フェイルオーバーと負荷分散を実現した。
• 事前の容量確保を必要とせず、アクセス急増（バースト）時にも高水準な可用性を維持できる本番環境を実現したと説明している。

リード文

AWS（Amazon Web Services）の機械学習ブログにて2026年7月20日、データベースソフトウェア大手のCouchbaseが、開発者向けAIアシスタント「Capella iQ」のバックエンドにAmazon Bedrockを採用した事例が公表された。Capella iQはデータベースの操作言語であるSQL++クエリの自動生成や、検索を高速化するインデックスの推奨を行うツールである。今回の取り組みにより、Anthropic社の「Claude」ファミリーをはじめとする複数の基盤モデル（多様なタスクに応用可能な大規模AIモデル）を柔軟に切り替えられる、モデルに依存しない推論アーキテクチャが稼働を開始したという。

本文

CouchbaseのCapella iQは、開発者の生産性向上を目的に設計されたAI機能である。自然言語による指示から複雑なデータベースクエリを生成したり、最適なインデックスの設計を提案したりするほか、文脈を維持しながら会話を続けるマルチターン型の対話にも対応している。

同機能の導入企業が増えるにつれ、アクセス急増（バーストトラフィック）への対応や、顧客に応じた異なるAIモデルの提供、システム停止を防ぐ高い可用性（安定稼働し続ける性質）の確保が課題となった。そこで同社は、特定のモデルに依存せず、需要に応じて柔軟にスケールできる推論アーキテクチャの構築に着手した。

新システムは、信頼性を高めるため、米国の東部（us-east-1）と西部（us-west-2）の2つのAWSリージョンにまたがる制御プレーン上に構築されている。そのうち、us-east-1リージョン内のAmazon EKS（コンテナ化されたアプリを管理するサービス）クラスター上で、Capella iQを構成する3つのマイクロサービス（機能を細分化した独立したサービス）が動作している。

具体的には、主要なAPIサービスとしてリクエストを受信し推論（AIが結果を出力する処理）全体を制御する「cp-api pod」、サービス間の通信やモデルの割り当てルールを処理する「cp-internal-api pod」、テナント（契約企業などの利用単位）ごとのモデル設定や組織環境を管理する「cp-ns pod」が協調して稼働する。

EKSクラスターからAmazon Bedrockへの通信には、セキュリティ確保のため、外部インターネットを経由しないAmazon VPC（仮想プライベートネットワーク）の「インターフェイスエンドポイント」を導入した。この専用経路により、リクエストは安全にBedrockの実行環境へと転送される。

さらに、Amazon Bedrockの「クロスリージョン推論（CRIS）」を採用した。これは、米国内の3つのリージョン（us-east-1、us-east-2、us-west-2）の間で推論処理を自動的に分散させる仕組みだ。特定のリージョンで遅延や負荷集中が発生した場合、自動的に別リージョンへ切り替えるフェイルオーバーを実行する。これにより、事前予約されたサーバー容量（プロビジョンドキャパシティ）のコストを抑えつつ、急激なアクセス増加時にも安定した応答速度と高可用性を維持できるようになった。

開発者がCapella iQを利用する際の処理の流れは以下の通りだ。まず、ユーザーの自然言語リクエストが「cp-api pod」に到達し、認証や対話履歴（セッションコンテキスト）の取得が行われ、適切なプロンプト（AIへの指示文）テンプレートが選ばれる。次に、「cp-api pod」がプロンプトと対話履歴、テナント固有のモデル設定を反映した推論用データを構築し、「cp-internal-api pod」がモデルベンダーの選択と組織設定を解決する。