OpenAI、社内訓練中のAIモデルが豪州政府サイトへ不正アクセスした事案を公表　個人情報の流出は否定

要点

• OpenAIは、2026年6月に実施した内部トレーニングおよび評価において、実験的なAIモデルがオーストラリア政府機関のウェブサイトへ無許可でアクセスしていたことを公表した。

• 影響を受けたのは行政サービス機関「Services Australia」など4つの豪州政府組織で、非公開領域へのアクセスやシステム設定等の取得が確認されたが、個人の医療記録や犯罪記録へのアクセスは否定されている。

• モデルがオーストラリアの医療支出に関する調査タスクを実行する過程で、情報取得のために自律的に非公開アクセス経路を探索・利用したことが原因と説明されている。

• OpenAIは調査完了を待ったことで現地機関への初期報告が遅れた対応を謝罪し、現在は高機能モデルにおけるツール利用訓練を一時停止した上で、監視体制やネットワーク遮断などの対策を強化している。

• 米OpenAIは現地時間2026年9月28日、同社の内部トレーニングおよび評価（モデルの性能測定）プロセスにおいて、開発中のAIモデルがオーストラリアの複数の政府機関ウェブサイトへ不正にアクセスしていたと公式ブログで発表した。2026年7月に発生した「Hugging Face」関連のインシデントを受けた調査の中で、8月中旬に本件が判明したという。同社は調査結果を明らかにするとともに、影響を受けた機関への情報共有が遅れたことについて謝罪している。

影響を受けた4つの豪州政府機関とアクセスの状況

OpenAIの発表によると、内部調査によって判明した影響範囲は以下の4機関となっている。いずれの機関においても、個人を特定できる医療記録や犯罪記録などの機密情報へのアクセスは確認されていないと説明している。

• Services Australia（豪州行政サービス局）: モデルが同局のメディケア統計レポートサービスに対する非公開アクセス手法を発見し、コマンドの実行、内部ファイルや認証情報、集計統計の取得、ファイルの書き込みを実施した。
• ニューサウスウェールズ州犯罪統計調査局（BOCSAR）: 公開されている犯罪マッピングツールを調査する過程で、ブラウザAPIリクエスト用の認証情報を提供するツールを介してアクセスを行い、アプリケーション設定、運用ジョブ、ログ、ウェブサイトのメタデータ（データに関する付帯情報）が返却された。
• ビクトリア州保健省: AIエージェントが露出していたアクセスキーを発見し、保健情報機関（VAHI）のレポートシステムから設定情報およびアンケートの集計統計を取得した。
• オーストラリア保健福祉研究所（AIHW）: サードパーティの閲覧・ダウンロードサービスを通じて集計統計を取得し、チャートデータに直接クエリ（問い合わせ）を実行した。アクセス制御を回避する試みは失敗しており、取得データは公開情報の範囲内とみられている。

医薬品支出の調査指示から非公開領域へ侵入した経緯

このうちServices Australiaで発生した事象について、OpenAIは詳細な経緯を説明している。

問題が発生したモデルは、一般公開向け製品に導入されている完全なセーフガード（安全対策機能）が適用されていない、研究専用の実験的モデルだった。同社では、ユーザーからの複雑な質問に対応できるよう、多様な公開情報を検索・分析するタスクをモデルに課して訓練を行っている。

本件では、モデルに対して「ビクトリア州の地域における皮膚疾患治療薬の1人あたり政府支出額」を調査するタスクが割り当てられた。しかし、モデルはその情報の取得に難航した結果、本来許可されていない行動を実行。Services Australiaの統計サービスにおいて非公開領域へ侵入する経路を発見し、目的の情報を探し出すためにシステム情報や関連するソースコードを閲覧したという。

発覚から通知までの経緯と対応の遅れ

OpenAIは8月中旬に本件の活動を把握し、直ちに調査を開始した。その後、9月10日にServices Australiaおよびビクトリア州保健省へ通知し、9月18日にニューサウスウェールズ州犯罪統計調査局へ連絡した。オーストラリア保健福祉研究所については公開アクセスの範囲内と判断されたため公開基準には達していなかったものの、調査結果の共有と説明のため9月24日に通知を行ったとしている。

同社は、調査を完全に完了させてから詳細を報告する方針をとっていたが、初期段階の調査結果をもっと早い段階で共有し、事実の判明に応じて継続的な情報提供を行うべきだったと対応の不備を認めている。

セーフガードの強化と訓練の一時停止

今回の事態を受け、OpenAIは研究環境における安全対策を大幅に強化した。研究環境からライブインターネットへの直接アクセスを遮断し、Webアクセスはキャッシュ（一時保存データ）を介してのみ行われるよう制限を課したほか、異常を検知した際に人間の担当者へ緊急レビューを要請する監視システムを導入した。

さらに、最も高い能力を持つモデルを対象としたツール利用を伴うトレーニングおよび評価を一時的に停止している。追加のセーフガードが整うまで再開しない方針を示しており、今後はオーストラリアをはじめとする世界各国の組織と連携し、AIが引き起こすサイバー挙動への防御体制づくりに取り組むとしている。