NVIDIAなど37組織、安全なAIエージェント開発を目指す「Open Secure AI Alliance」を設立――初のフレームワーク「NOOA」も公開

要点

• NVIDIAをはじめとするIT・セキュリティ関連の37の企業や団体が、安全なAIエージェントの開発と技術共有を目指す「Open Secure AI Alliance」を設立した。

• 設立と同時に、AIエージェントの挙動のテストや追跡を容易にするためのオープンソースフレームワーク「NOOA」が公開された。

• NOOAはAIが生成したPythonコードを実行するためシステム操作のリスクがあり、動作にはOSレベルの隔離環境（サンドボックス）が強く推奨されている。

• NVIDIAは、商用APIの制限によって対応が阻まれたHugging Faceのセキュリティ侵害事案を挙げ、ローカルで自在に制御できる防御用AIモデルの重要性を強調した。

• 米NVIDIAと、MicrosoftやLinux Foundationなどを含む計37の企業・団体が、安全なソフトウェアやAI（人工知能）エージェントの構築を目指す新たな提携「Open Secure AI Alliance」を設立した。2026年7月27日（現地時間）に発表された。このアライアンスでは、AIエージェントを動かす一連のシステムにおけるセキュリティ標準やツールの開発が進められるという。

業界大手が集結する新たな安全推進団体

「Open Secure AI Alliance」には、クラウドやセキュリティ、エンタープライズソフトウェア、AI分野から多様な企業や組織が参加している。メンバーには、Microsoft、Cisco、Cloudflare、CrowdStrike、Hugging Face、IBM、Palo Alto Networks、Red Hat、そしてLinux Foundationが名を連ねている。

アライアンスがカバーする範囲は、AIエージェントを動かす一連のシステム（スタック）全体に及ぶ。具体的には、アイデンティティ（身元）、アクセス権限、実行環境の隔離、ガードレール（安全対策のためのルール設定）、動作ログの記録、モデルフォーマット、マルチモデルスキャン、そして安全なコーディングのワークフローなどが含まれている。

NVIDIAらは、サイバーセキュリティの防御側には、ベンダーが管理するAPI（アプリケーション・プログラミング・インターフェース：システム同士を連携する窓口）を介したクローズドなAIシステムだけでなく、自身で中身を読み取って改変でき、独自のハードウェア上で直接動作させられるローカルなAIモデルが必要であると主張している。

なお、今回の設立発表の段階では、アライアンスの憲章や管理理事会、技術的なワークストリーム（作業部会）、今後の提供スケジュール、共同リポジトリ（プログラムの保管場所）などは公開されておらず、専用のウェブサイトも準備中であるという。

初の成果物「NOOA」フレームワークとそのリスク

アライアンスの結成に伴い、NVIDIAの研究所が開発したApache 2.0ライセンスのオープンソースフレームワーク「NVIDIA-labs OO Agents（NOOA）」が公開された。これは、LLM（大規模言語モデル：高度なテキスト処理や生成を行えるAI）を用いたAIエージェントの動作について、テストや追跡、監査、ガバナンス（管理統制）を容易にするための研究開発用ツールである。

NOOAでは、AIモデルの周囲でコンテキストを処理し、アクションを実行し、状態を管理する「エージェントハーネス」と呼ばれるソフトウェア層をPythonのクラス（プログラムの設計図）として記述する。
一般的なPythonコードと、LLMによって実行時に動的に補完される省略記号（...）を含んだメソッド（機能）を組み合わせて構築する仕組みだ。これにより、開発者はプロンプトやツールの定義、コールバックなどを複数のファイルに散在させることなく、使い慣れたテストやバージョン管理のワークフローでエージェントを構築できるという。

NVIDIAの評価によると、NOOAはネットワークアクセスを遮断した状態での脆弱性再発見ベンチマーク「CyberGym L1」において、GPT-5.5を用いて86.8%のスコアを記録した。
しかし、NOOAの公開リポジトリではその利用に伴うセキュリティ上のリスクについても率直に警告している。NOOAはLLMが生成したPythonコードを実行するように設計されているため、個人データの漏洩やファイルの削除、システム環境の意図しない変更を引き起こす可能性があるという。

そのため、プログラムの構造をチェックするAST（抽象構文木：プログラムの構造を木構造で表現したもの）による検査やモジュールの拒否リストといった防御策は、あくまで補助的な防御にすぎないとされる。NVIDIAは、生成されたコードを実行するエージェントはコンテナや仮想マシン、あるいは同社の「OpenShell」などのサンドボックス（外部から隔離された安全な実行環境）といったOSレベルの隔離環境下で動作させる必要があり、NOOA自体ではなくOS側のセキュリティ境界が重要であると説明している。

現時点の公開リポジトリ（v0.0.6）は、NVIDIAによって直接開発・維持されており、外部からの貢献はプルリクエストを通じて受け入れられることになっているが、まだロードマップなどの詳細は記述されていない。

Hugging Faceの侵入被害に見る「ローカルAI」の必要性

NVIDIAは、防御側のエンジニアが自前のインフラでAIモデルを制御することの重要性を示す実例として、2026年7月に発生したHugging Face社の侵害事案を引き合いに出している。

Hugging Faceでは同月、自律型エージェントシステムによって社内の生産インフラの一部が侵害され、特定の内部データセットやサービス認証情報への不正アクセスが発生した。
Hugging Faceの分析によると、初期の侵入はリモートコードのデータセットローダーとテンプレートインジェクションを悪用した悪意あるデータセットによるもので、その後ノードアクセスや認証情報の収集、社内クラスター間の横方向の移動へと拡大したという。

同社は事件のタイムライン復旧や侵害の痕跡調査、不正使用された認証情報のマッピングを行うために、記録された1万7,000回以上の操作履歴を分析するLLMエージェントを実行しようとした。
しかし、商業的にホストされているフロンティアモデル（最先端の高性能な商用AIモデル）のAPIサービスは、調査に必要な「攻撃コマンド」や「エクスプロイトペイロード（脆弱性を悪用するための攻撃データ）」などの有害と判定されかねない文字列の入力をポリシー違反として拒否してしまったという。

結果として、Hugging Faceは外部の商用APIに頼ることを断念し、オープンウェイト（モデルの内部データである「重み」が一般に公開され、独自の環境にダウンロードして動作させられるモデル）の「GLM 5.2」を自社のローカルインフラ上で実行することで、この難局を乗り切ったと説明している。この事件を通じて、セキュリティ対策に用いるAIにおいては、検閲や遮断を受けることなくローカル環境で自在に制御できるモデルの確保がいかに不可欠であるかが浮き彫りになったとNVIDIAは指摘している。