音声AIのDeepgram、Amazon SageMaker AI向けに課金・利用状況を可視化する「Enhanced Metrics」を提供開始

要点

• 音声認識および音声合成AIを提供するDeepgramが、Amazon SageMaker AI環境におけるオブザーバビリティを強化する2つの新機能を発表した。

• 新機能「Deepgram Enhanced Metrics」により、追加エージェントなしで課金や利用状況のメトリクスがCloudWatchへ直接送信される。

• PrometheusおよびOpenTelemetryに対応し、GPUや推論エンジン内部の稼働データをPromQL経由で詳細に分析可能となった。

• AWS Marketplaceの強みであるネットワーク分離を維持したまま、外部通信を発生させずにユーザーのAWS環境内で監視を完結できる。

• 音声AIプラットフォームを手がける米Deepgramは、Amazon Web Services（AWS）の機械学習プラットフォーム「Amazon SageMaker AI」向けに、モデルの利用実態や課金情報を詳細に可視化する新機能の提供を開始した。2026年8月27日付けのAWS Machine Learning Blogで明らかにした。これまで把握が難しかったコンテナ内部の動作や課金根拠を、ユーザー自身のAWSアカウント内で安全かつ正確にモニタリングできるようにする。

セルフホスト型音声AIが抱えていた「内部状態の不可視性」

Deepgramが提供する音声認識（STT: Speech-to-Text）および音声合成（TTS: Text-to-Speech）モデルは、AWS Marketplaceのモデルパッケージを通じて、ユーザーのAWSアカウント内にあるSageMaker AIのリアルタイムエンドポイントとしてデプロイできる。この構成では、音声データや文字起こし結果などのデータが外部に出ず自社アカウント内に保持されるため、データレジデンシー（データを特定の管轄区域や組織内に留めて保管すること）やコンプライアンス要件を満たしやすい利点がある。

しかし、セルフホスト型の音声AI運用には、オブザーバビリティ（出力データからシステムの内部状態を推測・把握できる度合い）の面で大きな課題が存在していたという。SageMaker AIの標準機能では、エンドポイントの稼働状態やリクエスト数、レイテンシといった基本的な呼び出しメトリクスは取得できるものの、キャパシティ計画やコスト管理に直結する重要な情報はコンテナ内部に閉ざされていた。具体的には「どのリクエストに対して課金が発生しているか」「トラフィックがどの機能を利用しているか」「GPU上で推論エンジンがどのように動作しているか」といった詳細が把握できなかったと説明されている。

加えて、AWS Marketplaceのモデルパッケージは高いセキュリティを確保するためにネットワーク分離（コンテナからの外部通信を遮断する仕組み）が施されている。この安全性が評価される一方で、コンテナが外部の収集サーバーへテレメトリデータを送信できず、内部の詳細な監視を難しくする要因となっていた。

課金と利用状況を透明化する「Deepgram Enhanced Metrics」

今回発表された第1の機能「Deepgram Enhanced Metrics」は、こうした課題を解消し、課金と機能利用の透明性を高めるものだ。Deepgramのコンテナが、利用状況や課金に関連するメトリクスをユーザーのAmazon CloudWatchアカウントへ直接パブリッシュする仕組みとなっている。

本機能の特徴は、専用の監視エージェントやサイドカー（主コンテナを補助するために並走させる別コンテナ）を配置する必要がなく、追加のIAM権限設定も不要な点にある。出力されるメトリクスは、AWS Marketplaceの従量課金で実際に用いられる消費単位（consumed-unit）と一致しているため、利用者はモデル別や転送方式別に、AWSの請求額と実際のトラフィックを正確に照合・精査できるようになるという。

Prometheus・OpenTelemetry対応とGPUレベルの監視

第2の機能として、PrometheusおよびOpenTelemetryのサポートが追加された。これにより、Deepgramコンテナから推論エンジンレベルのメトリクスを直接スクレイピングできるほか、GPUアクセラレータやホストマシンごとのリソース使用状況も収集可能となった。

これらのデータはSageMaker AIの詳細オブザーバビリティ機能を通じて収集され、CloudWatchはもちろん、GrafanaなどのPrometheus互換ツールからクエリ言語「PromQL」を用いて横断的に検索・可視化できる。これにより、ハードウェアと推論エンジンの挙動を正確に把握したリソース設計が可能になる。

ネットワーク分離を維持したデータ完結型の監視

今回提供された両機能は、いずれもAWS Marketplaceが持つネットワーク分離の制約を遵守して動作する。コンテナが外部に向けて新たな通信経路を開く必要はなく、すべてのメトリクスはユーザー自身のCloudWatchアカウント内に安全に格納される。

なお、SageMaker AIには独自のエンドポイント機能として、インスタンスやGPUの使用率ディメンションを追加する「enhanced metrics（MetricsConfigのEnableEnhancedMetrics）」が存在するが、今回Deepgramが発表した「Deepgram Enhanced Metrics」はこれとは異なる機能であり、両者は互いを補完する関係にあると補足されている。