Amazon SageMakerの推論コンポーネントに高可用性配置機能が追加　Salesforceが「Agentforce」でのコスト8分の1削減とマルチAZ耐障害性を両立

要点

• SalesforceはAI基盤「Agentforce」において、Amazon SageMaker AIの推論コンポーネントを活用し、インフラコストを8分の1に削減した。

• 従来の推論コンポーネントの配置アルゴリズムではモデルのコピーが特定のアベイラビリティゾーン（AZ）に偏る可能性があり、Salesforceの社内高可用性基準への適合が課題となっていた。

• AWSはAPIに新パラメータ「SchedulingConfig」を追加し、AZ間の均等配置やインスタンス間の分散配置をきめ細かく制御可能にした。

• Salesforceは新機能の「SPREAD」戦略とAZバランシング設定を適用し、2つのAZにまたがる耐障害性基準を満たした高可用性デプロイを実現した。

• アマゾン ウェブ サービス（AWS）は2026年8月28日、公式機械学習ブログ（AWS ML Blog）において、機械学習プラットフォーム「Amazon SageMaker AI」の「Inference Components（推論コンポーネント）」に新たな配置制御機能が導入されたことを明らかにした。米Salesforce（セールスフォース）が同社のAIエージェント基盤「Agentforce」の本番環境へこの機能を適用し、インフラコストの大幅な削減とマルチAZ（複数の独立したデータセンター群による冗長構成）にまたがる高可用性の両立に成功した事例が報告されている。

コスト削減と高可用性の両立における技術的課題

Salesforceでは、自社のAIエージェント向け基盤である「Agentforce」の運用において、Amazon SageMaker AIの推論コンポーネント（同一GPUインスタンス上に複数のモデルを同居させて稼働させる機能）を採用している。これにより、同社はインフラストラクチャにかかるコストを8分の1（8x）に削減することに成功していたという。

しかし、このコスト効率化を進める中で、複数のアベイラビリティゾーン（AZ）をまたぐ高可用性（HA）の確保に関する課題が浮上したと元記事は伝えている。Salesforceでは社内コンプライアンス基準として、すべての本番稼働モデルに対して最低2つのAZによる冗長構成（2-AZサポート）を義務付けている。

従来のSageMaker推論コンポーネントにおける配置アルゴリズムは、コスト最適化を優先し、デプロイ操作ごとに個別のコピーをインスタンス間で均等に分散させる仕組みとなっていた。そのため、エンドポイント自体がマルチAZ構成であっても、AZ間でのモデルコピーの配置バランスまでは考慮されていなかった。

この結果、特定のモデルのコピーが特定のAZやインスタンスに偏って配置されてしまう可能性があり、以下の単一障害点（SPOF）のリスクが生じていたと説明されている。

• インスタンスレベルの障害: 単一のインスタンスが停止した際に、そのインスタンス上に配置されていた対象モデルのすべてのコピーが同時にダウンするリスク。
• AZレベルの障害: あるAZ全体で障害が発生した場合に、当該モデルのすべてのコピーが利用不能になり、モデル全体が停止するリスク。
• コンプライアンス基準への抵触: コストのみに最適化された従来の配置では、Salesforceが求める2-AZの社内コンプライアンス要件を満たせない状態となっていた。

新パラメータ「SchedulingConfig」による配置制御の仕組み

こうした課題を解決するため、AWSは推論コンポーネントのデプロイを行うCreateInferenceComponent APIにおいて、新たなパラメータ「SchedulingConfig」を導入した。この機能により、利用者はインスタンス間およびAZ間における推論コンポーネントのコピー配置をきめ細かく制御できるようになったという。

高可用性の挙動を制御する要素として、主に2つのサブパラメータが提供されている。

• AvailabilityZoneBalance: 複数のAZにまたがるコピーの分散を制御する設定項目。設定可能な不均衡許容度（MaxImbalanceなど）に基づき、各AZ間でモデルのコピーを均等にバランスよく配置する。
• PlacementStrategy（各AZ内での配置戦略）: AZ内部におけるインスタンス間のコピー配置方針を指定する設定項目。障害の分離を目的に可能な限り多くのインスタンスへコピーを分散させる「SPREAD」と、リソース利用効率を高めるために少数のインスタンスにコピーを集約する「BINPACK」の2種類から選択できる。

SalesforceにおけるマルチAZ高可用性デプロイの実装例

元記事では、Salesforceが実際にマルチAZ環境へ高可用性デプロイを実施した具体的な設定例が紹介されている。

このシナリオにおいて、Salesforceは2つのアベイラビリティゾーン（AZ-1とAZ-2）にそれぞれ2台ずつ、合計4台のインスタンスを均等に配置したマルチAZエンドポイントを構築している。同社はこの環境に対し、高可用性を担保する形で特定のモデル（例として「salesforce-einstein-llm-v2」）のコピーを4つ（CopyCount: 4）デプロイすることを目的とした。

公開されたコード例では、CreateInferenceComponent APIの呼び出し時にSchedulingConfigを指定している。具体的には、配置戦略であるPlacementStrategyに「SPREAD」を設定し、AZバランシング設定のAvailabilityZoneBalanceにおいて強制モード（EnforcementMode）を「PERMISSIVE」、許容する最大不均衡度（MaxImbalance）を「1」と定義している。

この設定により、SageMakerは4つのモデルコピーを2つのAZおよび各インスタンスへ均等かつ分散して配置する。これにより、インフラコストの抑制効果を維持したまま、AZ障害やインスタンス障害への耐性を高め、Salesforceが規定する2-AZコンプライアンス基準を満たす運用が可能になったと報告されている。