OpenAI、次世代AI開発と再帰的自己改善（RSI）に向けた国際技術標準の策定を提言
要点
-
OpenAIは、AIが次世代AIを開発する「再帰的自己改善（RSI）」の進展を見据え、米国主導によるグローバルな技術標準の策定を公式ブログで提言した。
-
完全自律型のRSIは現時点では起きておらず、安全性が確保され人間の制御や民主的な選択が維持されるまで追求すべきではないと明言している。
-
国際標準が必要な背景として、各国の評価基準の「分断」、各国単独行動に伴う「協調の失敗」、世界的な「専門知識の不均衡」という3つの課題を挙げた。
-
日本や英国など各国のAI安全研究所（AISI）やCAISIの連携を活用し、能力ベンチマークやリスク管理基準を共通化する仕組みを提案している。
-
米OpenAIは2026年9月21日、次期フェーズのAI開発およびAI自身による自律的な研究開発を安全に進めるため、国際的な技術標準の確立を呼びかける声明を公式ブログで公開した。同社は、AIが新たなAIモデルの開発を担う「再帰的自己改善（RSI）」の進展を見据え、米国が世界各国と協力してグローバルな安全基準を整備すべきだと主張している。AI技術の急速な進歩に対し、人間の意図や安全基準に沿わせるアライメント研究と共通の技術標準を両輪として進め、人間の制御下を維持する狙いだ。
AGIに向けた3つの主目標とAI研究の自動化
OpenAIは、汎用人工知能（AGI）が全人類に利益をもたらすことを目指しており、同社CEOのサム・アルトマン氏やチーフサイエンティストのヤクブ・パチョツキ氏が示した方針に基づき、以下の3つの主要目標を優先課題として掲げている。
第一に、自律的な「自動AI研究者」を構築し、AIの挙動を人間の意図や価値観に合わせるアライメント技術の改善を重ねながら、人間が改善ループに関与し続ける形で次世代のAI開発を進めること。第二に、高度な知能を持つシステムを通じて科学的進歩と経済成長の恩恵を社会に届けること。そして第三に、すべての人々に個別のパーソナルAGIを提供することである。
同社によれば、すでにAIを活用した研究開発の加速が進んでおり、数学の難問である「ナビエ・ストークス・ミレニアム問題」への貢献など具体的な成果が生まれているという。こうした技術的進展は、医療分野での新発見やアクセスの向上、中小企業や個人起業家の支援といった広範な利益につながると説明している。一方で、AIが自らの開発そのものを担う段階へ進むにつれ、能力向上とアライメント研究の進度を一致させることが極めて重要になると指摘する。
再帰的自己改善（RSI）の恩恵と制御喪失のリスク
記事では、AIが自らの後継モデルを改良・開発していく「再帰的自己改善（RSI: Recursive Self-Improvement）」の展望とリスクについて言及されている。
自動化されたAI研究は、高度な知能の利用コストを下げて世界中に恩恵をもたらすだけでなく、AIの安全性を高める上でも大きな役割を果たすとOpenAIは説明する。自動AI研究者は同時に「自動AI安全性研究者」としても機能し、重要インフラの防護や危険なAIエージェントへの対策、新たな防御策の開発などに貢献できるという。
ただし、完全自律型のRSIは「現時点では起きていない」とし、安全性が完全に確認され、人間の制御と民主的な選択が維持されない限り追求すべきではないと強調している。適切な注意や安全対策を欠いたままRSIが進んだ場合、人間が理解できない研究プロセスによって実質的な監視能力を失い、AIがより危険で非整列（アライメントされていない状態）になり、人類にとって重大な脅威となる可能性があると警告している。同社は、過去に開示した「Hugging Faceインシデント」について、直接RSIによるものではないものの、強固な安全対策がない場合に生じうる深刻なリスクの一例であると述べている。
国際標準の策定が不可欠とされる「3つの課題」
OpenAIは、最先端のフロンティアAI開発において、アライメント研究の推進と同じくらい安全・セキュリティ慣行の国際標準が重要になると論じている。国際標準は「破滅的なAIリスクの緩和において何が適切な状態なのか」という共通の合意と基準をもたらす役割を持つ。
現在、各国の法制度やCAISI（Center for AI Standards and Innovation: AI標準・イノベーションセンター）、官民パートナーシップなどが整備されつつあるが、AIの開発や普及は世界規模で進んでいるため、国際的な枠組みが不可欠であるとし、以下の3つの課題を挙げている。
- 分断（Fragmentation）: 国ごとに評価基準、報告義務、インシデントの定義が異なると、証拠の比較や国境を越えたリスクへの対応が困難になる。
- 協調の失敗（Collective action）: 各国が個別に独自行動をとった場合、誰も望まない危険な結果を招く恐れがある。特にRSIによる急激な進歩は、人類全体の理解や監視の能力を超える可能性がある。
- 能力の不均衡（Uneven capacity）: フロンティアAIの開発活動や専門知識が世界に偏在しており、上記2つの問題をさらに深刻化させている。
これらはオープンモデルとクローズドモデルの双方に共通する課題であり、特定のラボへの権力集中を防ぎ、多様なステークホルダーが技術の方向性に関与できるようにするためにも標準が必要だと論じている。
各国AI安全機関と連携した標準化の仕組み
こうした課題を解決するため、OpenAIは米国が世界各国と協力し、RSIを含むフロンティアAIのグローバルな技術標準策定を主導すべきだと提言している。
具体的な仕組みの一つとして、日本をはじめ、オーストラリア、カナダ、ドイツ、フランス、ケニア、韓国、シンガポール、インド、英国など世界各地で設立されているAI安全研究所（AISI）のネットワークを活用することが挙げられている。これらの機関がCAISIや各国の業界団体を通じて連携し、以下の2点に特化した標準設定を進めることが有効だとしている。
- 能力ベンチマークによって測定されるフロンティアAIモデルおよびその開発者に対する基準
- RSIを含む自動AI研究における便益とリスクの管理基準
米国においては、CAISIが設立した「先端AI測定・評価・科学のための国際ネットワーク」などの成果を基盤として、国際的かつ相互補完的な標準化を進められると説明している。