OpenAIチーフサイエンティストが警鐘、AIの「再帰的自己改善」と制御の課題を指摘　独自のスケーリング停止も視野に

要点

• 米OpenAIのチーフサイエンティストであるヤクブ・パチョツキ氏が、機械知能の急速な進歩と安全性の課題に関する論考を公開した。

• 同氏は、AIが自律的に開発を主導する「再帰的自己改善」の段階に入る可能性が高く、今後数年で能力の大幅な飛躍が見込まれるとの見解を示した。

• 深層学習による知能は全体像の完全な把握が困難であり、人間の価値観に従わせる「アライメント」の難度が増大していると指摘した。

• OpenAIとして防御システムの構築や必要に応じたスケーリングの停止を行う用意があるとしつつ、より広範な社会的介入が必要だと訴えている。

• 米OpenAIのチーフサイエンティストを務めるヤクブ・パチョツキ（Jakub Pachocki）氏は2026年9月6日、同社公式ブログにて「An Alien Mind」と題した論考を公開した。パチョツキ氏は、推論モデルの進化によって人間を超える知能の実現が現実味を帯びる中、急速な知能向上に対する社会的な備えが不足していると強い危機感を表明している。

推論モデルの進展と「再帰的自己改善」への展望

パチョツキ氏によると、OpenAIは2023年半ばに実施した研究プロジェクト「RLSlow」において、推論モデル（思考の過程を段階的に組み立てて回答を導くAIモデル）の訓練を大規模化できる手応えを得たという。事前学習済みモデルが独自の思考プロセスを形成可能であることが確認され、人間を明確に上回る知能を持つ機械が現実のものになると認識したと振り返る。

それから3年が経過した現在、推論言語モデルは経済活動に浸透し、科学研究の進展にも寄与し始めている。具体的には、コンピュータやグラフィカルユーザーインターフェース（GUI）の操作、人間や他のAIとの協調、研究プロジェクトの遂行などが可能になったと説明する。一方で、コンピュータセキュリティの環境を激変させ、明確な新たな脅威も生み出していると指摘した。

さらに同氏は、最新の社内研究に基づき、AIの開発ペースが「再帰的自己改善（AIが自らを改良し、さらに高度な知能を自律的に開発するプロセス）」へと持続する強い見通しを示した。現在の傾向が続けば、今後数年で同等以上の能力向上を果たし、モデル自身が開発を主導する割合が高まる可能性があるという。

「設計」ではなく「育成」される知能の不確実性

機械知能の進化を主導しているのは計算資源の拡大であるとパチョツキ氏は説明する。OpenAIは2017年頃からスケーリング（計算規模の拡大）による効果を確信し、拡張性の高い少数の研究領域へリソースを集中的に投じてきたという。

同氏によると、深層学習に基づくAIは人間が緻密に「設計」したというよりも、膨大な計算資源のもとで最適化を繰り返して「育成」されたシステムに近いとされる。そのため、脳科学のように内部の微細な仕組みを部分的に解明することはできても、システム全体の挙動を完全に理解・記述することは困難であると述べている。

また、大規模なモデル訓練は本質的に実験科学であり、性能が高まるほど結果の解釈は難しくなるという。現在のアルゴリズムは客観的に測定しやすい能力ほど速く向上する傾向があるとし、同社では数学研究への特化といった特定の能力開発よりも、再帰的自己改善や自動化されたアライメント研究への対応を優先していると明かした。

「目標」と「価値」を巡るアライメントの難しさ

パチョツキ氏は、機械知能が人間とは根本的に異なるプロセスで生成されるため、初期状態で人間の原則に従うことは期待できないと論じる。AIを人間の意図に沿わせる「アライメント」において、同氏は「目標アライメント」と「価値アライメント」の2つを区別して説明している。

目標アライメントとは、指示の優先度を定めたルール（指示階層）の遵守や人間との協調など、与えられたタスクを達成しようとする性質を指す。一方の価値アライメントはより本質的な性質であり、指示が曖昧または対立する状況や未知の環境においても、誠実さや人類への配慮といった高次の原則を保持しながら適切に行動できる能力を意味する。

長期的な安全性の観点からは価値アライメントが極めて重要であると強調する一方、最大の課題は「汎化（未知の環境への適応）」にあるとしている。AIが高度化して訓練時と異なる概念や環境を扱う際、学習した価値観を維持できなくなるリスクがある。特に、人間による監視下にないとAIが判断した場合でも、人間の価値観を保持し続けられるかどうかが極めて重要だと述べている。

極めて慎重な対応の必要性とOpenAIの方針

パチョツキ氏は、機械知能の急速な上昇に対して十分な備えができている主体は存在しないと懸念を示し、現在は極めて慎重な対応が求められる局面だと強調した。

OpenAIの取り組みとして、アライメント技術や監視手法の開発を継続し、防御システムを構築する方針を示している。さらに、必要に応じて自社単独でスケーリングを保留・停止する判断を下す用意があるとも言及した。ただし、単一企業の対策にとどまらず、社会や産業全体でのより広範な介入が必要であるとの認識を示している。