Amazon SageMaker AI、生成AIの推論設定をコードなしで最適化できるUIを提供開始

要点

• AWSが、Amazon SageMaker AI Studioにおいて生成AIの推論設定を最適化・推奨するUIの提供を開始した。

• これまでAPI経由のみだった推論推奨機能がノーコードで利用可能になり、インフラの専門知識がないチームでも導入しやすくなった。

• チャットや要約などの代表的な用途に応じた4つのプリセットプロファイルを用意し、複雑な設定を自動化する。

• レイテンシ最小化、スループット最大化、コスト最小化といった目標に応じた最適なデプロイ構成をビジュアルで比較できる。

• アマゾン ウェブ サービス（AWS）は2026年7月13日（現地時間）、機械学習プラットフォーム「Amazon SageMaker AI」において、生成AIモデルの推論設定を自動で最適化し推奨する機能の新たなユーザーインターフェース（UI）を提供開始したと発表しました。この新機能により、開発者は複雑なコードを書くことなく、視覚的な操作のみで本番環境に最適なデプロイ構成を比較し、稼働させることができるようになります。

• 生成AIモデルを実際のサービスである本番環境に配置（デプロイ）する際、仮想サーバーのスペックを示す「インスタンスタイプ」や、モデルを稼働させるプログラムの実行環境である「サービングコンテナ」の設定、最適化戦略の最適な組み合わせを見つけ出すのは容易ではありません。これまでは設定の調整と性能測定（ベンチマーク）を手動で繰り返す必要があり、リリースまでに長い試行錯誤が必要でした。

• AWSは2026年4月に、最適な構成をプログラムで自動取得できるAPI「推論推奨機能」を導入し、このサイクルを数分から数時間に短縮しました。しかし、このAPIの利用には設定値の知識や測定結果の解釈に高度な知識が必要でした。今回発表された新しいUIは、統合開発環境「Amazon SageMaker AI Studio」の「Jobs（ジョブ）」内にある「Inference optimization（推論最適化）」メニューから利用できます。これにより、プログラムコードをほとんど書かずに視覚的な操作で開発を行う「ローコード／ノーコード」での推論最適化が可能になりました。インフラの専門知識を持たないチームでも、ガイドに従って最適なモデル構成を導き出し、ワンクリックで本番環境へデプロイできます。

• ワークフローは、システムのトラフィックパターンを定義することから始まります。本機能では、手動でトークン数や同時実行数を指定する代わりに、一般的なトラフィックパターンを模したプロファイルを選択できます。

• プロファイルは、短い入力と中程度の応答を返すチャットボット向けの「Interact」、長い応答を出力するコンテンツ生成向けの「Generate」、長い入力に対して出力を短くするドキュメント要約向けの「Summarize」の3つが用意されています。これらに合致しない場合は「Custom」を選択し、独自のデータセットで同時実行数やトークン長などを手動設定できます。どのプロファイルでも、ベンチマーク設定はシステムが自動で調整します。

• また、優先すべき「最適化目標」も指定します。目標は、応答までの遅延時間である「レイテンシの最小化」、単位時間あたりの処理データ量を示す「スループットの最大化」、費用対効果を高める「コストの最小化」の3種類から選ぶことができます。

• 選択した目標に基づきSageMaker AIが最適な構成をランク付けして推奨します。検証結果はStudioの画面上でビジュアルに比較できるため、エンジニアが本番前に動作検証するだけでなく、技術リーダーがコストと性能のバランスを見極めながら最適な構成を選択し、ワンクリックでデプロイできます。

• なお、細かいチューニングを行いたい上級エンジニアは、引き続きAPIを利用して詳細なパラメータ制御を行うことも可能であり、チームの習熟度に応じた使い分けがサポートされています。

• Amazon SageMaker AIは、AWS上で機械学習モデルの構築、トレーニング、そしてデプロイを支援するフルマネージドサービスです。