OpenAI、能力に応じたAI安全規制の法制化を米議会に要請 安全性確保に向けた4つの方針を提示
要点
- 米OpenAIは2026年9月9日、急速に進化するAI技術に対応するため、能力に応じた義務的な国家安全規制の制定を米連邦議会に求める方針を発表した。
- 連邦レベルでの法制化に先立ち、安全性評価インフラや監査人基準などを定めたカリフォルニア州の4つの法案への支持を表明した。
- AIが自律的に次世代AIを開発する「再帰的自己改善」は現時点で起きていないとしつつも、研究加速の兆候を踏まえ、安全性が確保できない場合は開発の減速や停止も辞さない姿勢を示した。
- 規制の対象は大規模なリソースを持つ最先端ラボに限定すべきとし、スタートアップやオープンモデル開発への過度な制約を避けるべきだと提唱している。
リード文
米OpenAIは2026年9月9日、グローバルアフェアーズ担当チーフのクリス・レハネ氏による声明を公開し、AIの能力向上に対応した義務的な国家安全規制の策定を米連邦議会に働きかける方針を明らかにした。あわせて、カリフォルニア州で審議されている4つのAI関連法案への支持や、最先端モデルにおける安全対策の強化基準を公表している。同社は、技術の進歩が統治機関の能力を追い抜く前に、実効性のある安全基準を確立する必要があると説明している。
安全性確保に向けた4つの行動方針と州法案への支持
OpenAIは今回の発表において、AI政策を推進するための具体的な取り組みとして以下の4点を提示している。
- 国家的なAI安全性要件の法制化推進: 米連邦議会と連携し、モデルの能力に応じた義務的な連邦規制の策定を目指す。
- 州レベルの法制化支援: 連邦議会が法制化を行うまでの間、安全エコシステムを強化する州法を支持する。
- 業界主導の標準策定: 政府の関与の有無にかかわらず、他の最先端AI開発組織（フロンティアラボ）と協力して自主的な安全基準を構築する。
- 国際基準の構築: 能力の測定、リスク管理、人間の制御の維持、開発の減速や停止を判断する基準について、国際的な合意形成を推進する。
州レベルの取り組みとして、同社はカリフォルニア州で審議されている4法案への支持を表明した。具体的には、独立した安全性評価インフラを整備する「SB 813」、AI監査人の基準を定める「AB 1405」、若年層の保護を目的とした「SB 1119」、そしてAIを悪用した生物学的脅威に対する安全策を講じる「AB 1864」の4つを挙げている。
「再帰的自己改善」への警戒と内部安全基準の強化
同社のチーフサイエンティストであるヤクブ・パチョッキ氏は、再帰的自己改善（AI自身が自律的に次世代のより高度なAIを開発・改良するプロセス）の可能性を含めた機械知能の急速な台頭に対し、「極度の警戒」が必要であると指摘している。OpenAIは、単独の研究所内での技術的なアライメント（AIの挙動を人間の意図や価値観に合わせる調整）や監視作業だけでは不十分であり、開発を減速または停止すべき基準を含めた共通ルールの策定が不可欠であるとしている。
また、共同創業者のグレッグ・ブロックマン氏が提唱する「防衛者の窓」（強力な攻撃能力が普及する前に防衛側が体制を整えられる限定された期間）という概念を引き合いに出し、政策立案者にとっても統治体制を確立するための猶予期間が狭まりつつあると警鐘を鳴らしている。
現状について同社は、完全自律型の再帰的自己改善は現時点では発生していないと説明している。一方で、AI研究者が数日を要する作業をエージェントが代替するなど、次世代モデルの開発やアライメント研究の一部はすでにAIによって加速しているという。同社は、人間の監視下で深層学習とアライメントを進める自動化AI研究者の開発を目指しており、安全基準を満たせない場合には能力向上を遅らせてでも安全性を優先するとしている。
内部的な安全対策としては、モデル開発サイクル全体での監視とセキュリティの強化を継続している。特に「Astra」においては、思考プロセス（チェーン・オブ・ソート）を含むすべての挙動の完全な監視体制や、社内展開前の必須アライメント評価ゲートを導入したと説明している。
対象を絞った規制設計とオープンモデルの位置づけ
連邦規制の具体的な枠組みとして、OpenAIは「最先端AIの民主的ガバナンスに向けた青写真（Blueprint for Democratic Governance of Frontier AI）」を提示している。これには、共通のテスト要件、独立機関による評価、サイバーセキュリティの強化、明確なインシデント報告義務、再帰的自己改善への進捗測定などが含まれる。
一方で、法規制は対象を慎重に絞るべきだと主張している。義務的な要件は、最も高度なシステムを開発する一握りの資金力ある最先端ラボに適用されるべきであり、スタートアップや小規模開発者、研究者には過度な負担を課すべきではないとしている。
さらに、オープンウェイトモデル（パラメータ情報が一般公開されているモデル）については、サイバーセキュリティやデータ主権の観点で重要であるとし、過度な規制で締め出すべきではないと述べた。同社は「Open Weights and American AI Leadership」共同書簡に署名したことに触れ、安全性の確保と競争力の維持にはオープンモデルとクローズドモデルの双方が必要であると説明している。