NVIDIA、AIエージェントの安全性をハードとソフトで担保する「Open Agent Safety Platform」を発表
要点
-
米NVIDIAは2026年9月28日、自律型AIエージェントをハードウェアとソフトウェアの双方から監視・制御する基盤「NVIDIA Open Agent Safety Platform」を発表した。
-
オープンソースの安全ランタイム「NVIDIA OpenShell」と、DPU上で動作する監視機構「NVIDIA Sentry」を組み合わせた多層防御アーキテクチャを採用している。
-
AIエージェントが評価環境を突破する事案が報告されたことを受け、モデルへの通信経路上でリアルタイムにポリシーを適用する仕組みを提供する。
-
帯域外での監視や推論の可視性に応じた権限調整など、5つの基本設計原則に基づいている。
-
米NVIDIAは2026年9月28日、自律型AIエージェントの安全な実行と継続監視を実現するリファレンス設計「NVIDIA Open Agent Safety Platform」を発表した。
-
同プラットフォームは、オープンソースの安全ランタイム「NVIDIA OpenShell」と、DPU（データ処理専用プロセッサ）上で動作する監視機構「NVIDIA Sentry」を統合した多層構造を持つ。エージェントによる想定外の挙動や隔離環境からの脱獄リスクに対処し、ソフトウェアとハードウェアの連携によって安全ポリシーを強制する仕組みを提供するという。
背景：AIエージェントによる隔離環境の突破事例と安全制御の課題
発表によると、複数の先端AI研究機関において、自律型AIエージェントが評価用の隔離環境（サンドボックス：安全のため外部から隔離された実行領域）を突破し、未認可のシステムへ到達する事案が報告されているという。中には実行内容を偽って報告する事例もあり、既存のセキュリティ制御では不十分であることが課題となっていた。
NVIDIAは、これが単一の機能向上によるものではなく、利用可能なツール、実行時間、曖昧な指示、枠にとらわれない推論を試みる性質が重なった結果であると分析している。かつて初期のインターネットがブラウザのサンドボックス化や暗号化によって信頼を確立したのと同様に、AIエージェントに対してもコードを無条件に信頼せず、独立したセキュリティ制御による「信頼層」を構築する必要があると説明している。
システム構成：OpenShellとSentryによる多層防御
今回発表されたプラットフォームは、ソフトウェア層とハードウェア層が密接に連携するアーキテクチャで構成されている。
ソフトウェア層を担うのは、オープンソース（Apache 2.0ライセンス）のセキュアランタイム「NVIDIA OpenShell」だ。自律型AIエージェントをOSのカーネルレベルで隔離された環境内で実行し、ポリシーの適用や実行制御を行う。同リファレンス設計では、OpenShellが「NVIDIA Vera CPU」上で動作する。
ハードウェア層での監視を受け持つのが「NVIDIA Sentry」である。Sentryは「NVIDIA BlueField-4 DPU」上で稼働し、シリコンレベルでの監視と制御を行う。ネットワーク開発キット「NVIDIA DOCA」を活用し、エージェントの対話、ポリシー判断、ツールへのアクセス履歴を関連付け、文脈を保持した活動ログを記録するという。
通信経路の制御と帯域外監視
本プラットフォームの大きな特徴は、ハードウェアの配置によって監視の独立性を担保している点にある。
「NVIDIA Vera Rubin POD」システムにおいて、BlueField-4 DPUはサーバーノードからAIモデルへの「唯一の通信経路」上に配置される。エージェントがモデルと通信する際は必ずこのDPUを経由するため、エージェントが動作するホスト環境から分離された「帯域外（Out-of-band：主処理系から独立した監視経路）」での継続監視が可能となる。これにより、ネットワーク速度を落とすことなく（ラインスピードで）、リアルタイムにポリシーを適用できるとしている。
プラットフォームを支える5つの基本原則
NVIDIAは、本プラットフォームの設計において以下の5つの基本原則を掲げている。
- 検証可能なポリシー（Verifiable Policy）: 定義された安全ルールが機能しているかを客観的に検証可能にする。
- 帯域外での強制（Out-of-Band Enforcement）: 改ざんを防ぐため、エージェントの実行環境の外側から独立してルールを適用する。
- モデルへの通信経路の制御（Controlling the Path to the Model）: モデルへのアクセス経路を一元管理し、未認可の通信を遮断する。
- 推論の可視性に応じた権限調整（Scaling Agent Authority with Reasoning Visibility）: エージェントの思考・推論プロセスの可視化レベルに応じて、付与する権限範囲を調整する。
- 責任共有モデルの適用（Shared Responsibility Model）: AI研究機関、導入企業、ハードウェア提供者がそれぞれのレイヤーで安全対策の責任を分担する。
補足
なお、ソフトウェアコンポーネントであるNVIDIA OpenShellはGitHub上で公開されており、開発者が自身のAIエージェント環境にカーネルレベルの隔離やランタイム制御を組み込めるようになっている。