OpenAIの次世代AI「Astra」、サイバー攻撃レベルの「深刻な能力」に達した可能性――開発の制限と安全対策強化を発表

要点

• OpenAIは開発中の次世代AI「Astra」の内部評価で、自律型サイバーセキュリティ能力の大幅な進歩を発表した。

• 同社は、Astraが安全基準指針における「深刻（Critical）」な能力に達している可能性を否定できないと結論づけた。

• 新たな安全基準を満たさないAstra関連の内部開発活動を一時停止し、セキュリティ体制を強化した。

• 「深刻」な能力とは、人間の介入なしに重要システムでゼロデイ脆弱性を突くプログラムを自律開発できるなどのレベルを指す。

• 今後は政府や外部のAI安全性評価機関と協力し、能力検証のための共同テストを進める方針を示している。

• 米OpenAIは2026年8月7日、開発中の次世代AIモデル「Astra（アストラ）」の内部評価において、自律型コーディングやサイバーセキュリティ分野で顕著な進歩が確認されたと公表した。同社は安全基準「Preparedness Framework（安全準備枠組み）」に基づき、同モデルが「深刻（Critical）」なサイバーセキュリティ能力に到達している可能性を否定できないと判断。これを受け、一部の内部開発活動の一時停止や、隔離環境でのテスト徹底といったセキュリティ強化措置を開始した。

「深刻なサイバーセキュリティ能力」の定義と評価結果

OpenAIが2023年12月に策定した「Preparedness Framework（安全準備枠組み）」は、AIモデルが生物学、化学、サイバーセキュリティ、自己改善の分野で危険なレベルの能力を持たないかを監視・対応するための安全基準である。従来のモデル（「GPT-5.6-Sol」など）では、サイバーセキュリティ能力は「高い（High）」という閾値にとどまり、「深刻（Critical）」には達していないと評価されていた。

しかし、Astraの最新の予備評価において、この分類が変更される可能性が出てきた。同枠組みにおけるサイバーセキュリティの「深刻」レベルとは、人間の介入なしに、防御された現実世界の重要システムにおいて、あらゆる深刻度の「ゼロデイ脆弱性」（修正プログラム未適用の保安上の欠陥）を特定し、機能する攻撃プログラム（エクスプロイト）を自律的に開発できる状態を指す。あるいは、最終目標の指示だけで、強固に保護された標的への新規のサイバー攻撃戦略を自律的に考案・実行できる能力とされる。

OpenAIは現在もAstraの性能測定を継続しているが、初期評価が非常に高いことから、現時点で「深刻」な能力レベルにある可能性を否定できないと結論づけた。なお、Astraは開発途中のモデルであり、AI共有プラットフォーム「Hugging Face（ハギングフェイス）」で過去に発生したセキュリティ侵害事件には関与していないとしている。

OpenAIが講じた5つのセキュリティ強化策

今回の評価に基づき、OpenAIはAstraの開発を安全に進めるため、以下のセキュリティ措置を導入したと発表した。

• セキュリティ管理の厳格化: 高性能モデルに関する活動において、外部から隔離されたテスト環境（サンドボックス）の使用、ネットワークやツールのアクセス制限、モデルの重み（学習されたデータ）の保護と暗号化、監視機能の向上を実装した。
• 一部開発の停止: 強化されたセキュリティ要件を満たしていないAstraに関する内部活動を一時停止した。
• 自律型アプリの監視: 訓練や評価を含むAstraの全自律型アプリケーションを対象に、危険な行動や開発目的からの逸脱（アライメントの乱れ）を監視する共通システムを導入した。推論プロセスである「Chain of Thought（思考の連鎖）」を監視し、高リスクな活動が検知された場合は処理を中断・レビューする。
• 政府・安全性機関との連携: 関連政府機関や選定されたAI安全性機関と協力し、モデルの能力テストを共同で実施する。
• 外部パートナーへの要件提供: 第三者のテストパートナーがリスクの高い評価を実施する際の推奨セキュリティ管理要件を提供する。

過去の事例と今後の展開

このような能力向上に伴う安全対策の強化は、同社にとって前例がある。2025年6月、開発中のモデルが生物学（biology）分野において同フレームワークの「高い（High）」閾値に近づいた際にも、安全対策の強化やテスト拡充、外部専門家との連携といったセキュリティ管理策を講じており、今回の対応もこれと同様の原則に基づいているという。

OpenAIは、高度なサイバー能力を持つモデルは、悪意ある攻撃者に先んじて防衛側がセキュリティ上の脆弱性を特定・修復するために役立てられるべきだと考えている。同社は今後も政府やAI安全性研究所、市民社会と連携し、Astraを含む最先端モデルが責任を持って社会全体に利益をもたらす形で展開されるよう取り組むと説明している。