AWS、複数アカウントやリージョンに分散したAmazon SageMaker Pipelinesを一元監視するソリューションを公開
要点
-
複数アカウントやリージョンに分散した「Amazon SageMaker Pipelines」を一元的に監視するソリューションが発表された。
-
従来は各環境を手動で切り替えて実行状況を確認する必要があり、運用の大きな負荷となっていた。
-
Amazon CloudWatchのカスタムダッシュボードやAWS Lambdaを活用し、リアルタイムに近い監視を1画面で提供する。
-
サーバーレスでイベント駆動型の「ハブ&スポーク」モデルを採用し、監視コストや保守の手間を低減している。
-
構築用のAWS CDKコードがGitHubで公開されており、ユーザーの要件に合わせたカスタマイズや展開が容易に行える。
-
Amazon Web Services(AWS)は2026年7月15日、複数のAWSアカウントやAWSリージョンに分散して実行されている機械学習ワークフロー自動化サービス「Amazon SageMaker Pipelines」を一元監視するための新しいソリューションを発表した。このソリューションは、AWSのリソース監視ツール「Amazon CloudWatch」のカスタムダッシュボードを活用し、手動で複数のAWS環境を切り替えて監視する運用のオーバーヘッド(余分な負荷や手間)を解消することを目指している。
分散環境におけるパイプライン監視の課題
多くの組織では、機械学習(ML)の運用手法である「MLOps(機械学習モデルの開発・運用を円滑化する実践)」戦略に基づき、SageMaker Pipelinesを用いてワークロードを複数のアカウントやリージョンに分散させ、自動化を行っている。
しかし、パイプラインが複数の環境に散在すると、監視が非常に複雑になる。開発者や運用担当者は、実行状況を検査するために手動で環境を切り替える必要があり、これが運用上のオーバーヘッドとなっていた。標準の「Amazon SageMaker Studio(機械学習開発向けの統合開発環境)」は単一のアカウントおよびリージョン内の監視しかサポートしていないため、複数環境を一括で追跡するためには、独自の監視システムを構築する必要があった。
サーバーレスかつイベント駆動型での効率化
今回AWSが提示したソリューションは、複数のアカウントやリージョンで動作するSageMaker Pipelinesの実行状況を、単一のインターフェースから詳細かつリアルタイムに近い形で可視化する。
本システムは、サーバー管理が不要な「サーバーレス」かつ、特定のイベント発生を契機に処理を行う「イベント駆動型」のアーキテクチャを採用している。これにより、パイプラインの開始や終了といったイベントにリアルタイムで反応し、常時稼働する監視システムや定期的な問い合わせ(ポーリング)が不要となるため、初期費用やメンテナンスコストを低減できると説明している。
ハブ&スポークモデルによるシンプルな構成
システムの設計には、中央の拠点に周辺の拠点を繋ぐ「ハブ&スポーク」モデルが使われている。主要なアカウントとリージョン(ハブ)に監視用リソースを集約し、他のアカウントやリージョン(スポーク)には軽量な転送コンポーネントを配置する構成だ。
システムは、主に以下の2つの「AWS CloudFormation(テンプレートからAWSインフラを自動構築するサービス)」スタックで構成されている。
-
Dashboard(ダッシュボード)スタック
監視ハブとなるプライマリアカウントおよびリージョンにのみ展開される。これには、監視画面を表示するCloudWatchのカスタムダッシュボード(ユーザーが自由にグラフなどを配置できる画面)や、データを蓄積する「Amazon DynamoDB(高速なNoSQLデータベース)」のテーブル、データの処理と可視化を行う「AWS Lambda(サーバーレスでプログラムを実行するサービス)」関数が含まれる。 -
Forwarder(フォワーダー)スタック
監視対象となる各セカンダリアカウントやリージョンに展開される。これは、「Amazon EventBridge(システムイベントを仲介するサービス)」やAWS Lambdaなどを利用し、現地のパイプライン実行イベントを検知して中央のハブへ転送する役割を持つ。
AWS CDKによる容易なカスタマイズ
AWSは、この監視インフラを迅速に展開できるよう、プログラムコードでクラウドインフラを定義するツール「AWS CDK(AWS Cloud Development Kit)」のサンプルコードを用意し、GitHubリポジトリ(aws-samples/sample-monitor-sagemaker-pipelines-cross-region-account)で公開している。これにより、開発者は自社の可観測性要件に合わせて構成を調整し、展開できるという。
本ソリューションの導入により、複数のAWS環境で大規模な機械学習パイプラインを運用する組織が、管理の手間を最小限に抑えつつ、システムの可観測性を向上させることが可能になると期待されている。