OpenAI、次期AI「Astra」のサイバーリスクを受け開発を一時減速　研究環境の隔離と多段階監視を強化

要点

• OpenAIは次期モデル「Astra」が重大なサイバー能力基準に達する兆候や外部事案を受け、開発のペースを一時減速したと発表した。

• デプロイ向け最新モデルの強化学習を2週間停止し、最大規模の学習計画は保留したまま小規模な評価を先行させている。

• 研究環境の安全性を高めるため、ワークロードのサンドボックス隔離やネットワーク遮断、AIによる攻撃テストを導入した。

• トークン単位で内部活動を調べる検知器と自動調査を組み合わせ、重大な境界侵害の疑いには30分以内の停止対応を義務付けた。

• 米OpenAIは2026年8月18日、AIモデルの能力向上に伴うリスクを未然に防ぐため、最新モデルの開発・学習ペースを一時的に減速させ、研究環境のセキュリティと監視体制を大幅に強化したと発表した。開発中の次期モデル「Astra」が重大なサイバーセキュリティ能力を持つ可能性が浮上したことや、直近のセキュリティ事案を受けた措置だという。同社は安全基準を満たすための環境整備を進めている。

開発ペース減速の背景とサイバー能力リスク

今回の判断の背景には、同社とHugging Faceの間で発生したセキュリティインシデントと、次期モデル「Astra」が同社の安全基準「Preparedness Framework（準備フレームワーク）」における「重大なサイバーセキュリティ能力（Critical cybersecurity capability）」の閾値に達する可能性を示す初期的な証拠が確認されたことの2点がある。

モデルの高度化に伴い開発・テスト時の内部リスクも増大するため、OpenAIは安全基準を満たす時間を確保すべくスケーリングのペースを落とした。具体的には、実運用向けの最新モデルに対する強化学習（RL：試行錯誤を通じて最適な行動を学習させる手法）を2週間停止した。さらに、計画されていた最大規模のフロンティアRLトレーニングは現在も保留されており、モデルの挙動評価やセーフガードの検証、意図通りの動作を確認するアライメントの証拠確立に向けた小規模なトレーニングと評価を先行して進めているという。

研究環境のセキュリティ基準引き上げと隔離措置

OpenAIは、高度なモデル開発におけるセーフガードとして「監視」「アライメント」「セキュリティ対策」の3本柱を提示している。これらは将来的にモデル自身が防御を担うことで、能力向上に合わせて拡張可能にする方針だ。

研究環境の保護では、インシデント直後にコード実行やネット接続が可能な推論を一時停止し、安全な実行経路を整えた上でワークロードを精査して再開した。現在は以下の強化策が進められている。

• ワークロードの隔離: モデル生成コードなどを実行する環境に強固なサンドボックス（外部から隔離された保護領域）を義務付けた。
• ネットワークの隔離: 高リスクなワークロードをネットから遮断し、単一の障害が全体への不正アクセスに繋がらない設計を導入した。
• 継続的なセキュリティテスト: 脆弱な共有サービスを排除し、アクセス権限を削減したほか、AIモデルを用いた模擬攻撃による境界テストを自動化している。

現在、Astraやサイバー関連のワークロードには最も厳格な基準が適用されており、多くの作業は環境移行が完了するまで保留されている。同社は安全性・アライメント関連の移行を最優先していると説明している。

内部思考の監視拡大と30分以内の緊急対応ルール

監視体制についても、従来の一部高リスク環境に限定していた運用を改め、多段階のシステムへと拡張した。

新システムでは、生成されるトークン（AIが処理する文字や単語の単位）ごとに内部活動を調べる「活性化分類器」が作動する。懸念が検出されると高度な自動調査システムへエスカレーションされ、ツール操作や推論ログ、一連の行動履歴全体から不正アクセスやデータ窃盗、破壊行為、セーフガード回避の兆候を分析する。

同システムは懸念の検知から30分以内のアラート発行を目指している。重大なセキュリティ境界の侵害が疑われる場合は最高優先度のアラートが発令され、担当チームへ緊急招集がかかる。30分以内に誤検知であると確認できない場合は作業を即座に一時停止する運用ルールとなっており、一定水準以上のモデルにおけるツール利用を伴うすべての強化学習・評価に義務付けられている。