OpenAIのサム・アルトマンCEO、国連安保理で演説 AIの制御維持とリスク回避に向けた指針を提示
要点
-
米OpenAIのCEOサム・アルトマン氏が2026年9月23日、国連安全保障理事会においてAIに関する演説を行った。
-
AIの進化に伴い回避すべき重大リスクとして「人間による制御の喪失」と「特定主体への権力の過度な集中」の2点を挙げた。
-
安全性やアライメントの保証ができないモデルは訓練すべきではないと述べ、必要に応じた自主的な開発減速の方針を表明した。
-
モデルの進化を示す具体例として、数学の未解決難問であるミレニアム懸賞問題の一つ「ナビエ・ストークス方程式」を同社モデルが解決したことを公表した。
-
米OpenAIの最高経営責任者（CEO）であるサム・アルトマン氏は2026年9月23日、国際連合安全保障理事会において人工知能（AI）に関する演説を行いました。
-
アルトマン氏は演説の中で、近年の急速なモデル性能の向上によって技術の恩恵が具体的になる一方、それに伴うリスクも差し迫ったものになっていると指摘しました。その上で、高度なAIシステムを人類の制御下に置き続ける重要性と、国際的な安全協力の必要性を訴えています。
急速な進化がもたらす機会と回避すべき2つのリスク
アルトマン氏は、近年のAI技術の進歩によって開発期間が圧縮され、社会への影響が現実味を帯びてきた現状を説明しました。AIが人々の創造性や発見を広げる「ルネサンス」のような存在になり得る一方で、混乱をもたらす産業革命のような側面も持ち合わせているとして、適切な選択が求められていると主張しています。
特に、AIが自身を改良し続ける「再帰的自己改善」の技術に近づくにつれ、開発プロセスの自動化によって進歩の速度が急激に加速する可能性があると警告しました。こうした急速な変化の中で、アルトマン氏は避けるべき重大な事態として2つのリスクを挙げています。
1つ目のリスクは、技術の進歩が速すぎることで人間が状況を追従できなくなり、AIに対する未来の制御権を失ってしまうことです。アルトマン氏は、破滅的なリスクの発生確率が10%であれ0.1%であれ、いかなる水準であっても到底受け入れられないと強調しました。
2つ目のリスクは、強力なAIシステムによって少数の個人や企業、国家に権力が過度に集中することです。アルトマン氏は、特定の主体が自らの世界観を他者に押し付けるためにAIを利用することを否定し、自らだけが技術を安全に扱えるという論理は退けられるべきだと述べています。
人間による制御の維持と開発ペースの自主的減速
これらのリスクに対処するため、アルトマン氏は安全性や監視性、アライメント（AIの挙動を人間の意図や価値観に沿わせる調整）が十分に保証されないモデルは訓練すべきではないとの見解を示しました。
また、他社との競争ペースに勝つことだけを目的に性急な判断を下すべきではないと指摘しています。OpenAI自身、過去に開発ペースを自主的に落とした経験があり、今後も安全性を担保できない場合には同様の措置を取る意向を明らかにしました。
アルトマン氏は、極端な楽観論や終末論に陥ることなく、現実的な中道を歩むための指針として以下の3つの原則を掲げています。
- 人間中心の意思決定の維持: AIが高度化しても人間が意思決定の中心に残り続けること。人間の判断や価値観そのものを自動化しない。
- 人々のための科学的・経済的恩恵: 科学の進歩や経済成長の果実が、研究者や医師、教育者などの能力を拡張し、人々自身の手によってもたらされること。
- 個々の人々のエンパワーメント: 技術が世界中の個人に力を与え、自らの生活や地域社会の向上に役立てられるようにすること。
数学モデルの急進展とナビエ・ストークス方程式の解決
演説では、AIモデルが新たな知識を発見する能力を獲得しつつある例として、数学分野における急速な進歩が紹介されました。
アルトマン氏によると、同社のモデルは3年前の夏には小学校レベルの算数を解く程度だったものの、2年前には高校の数学競技レベルに達し、昨年の夏には国際的な数学競技会で金メダル水準の能力を示したといいます。さらに、数週間前には数学の未解決難問として知られるミレニアム懸賞問題（米クレイ数学研究所が100万ドルの懸賞金を設定した難問）の一つである「ナビエ・ストークス方程式」を同社のモデルが解決したことを明らかにしました。
ナビエ・ストークス方程式は、航空機の設計や気象予測、血流の研究などに用いられる流体力学の基礎方程式です。アルトマン氏は、数学の問題を解くこと自体が目的ではなく、得られた新たな知識を活用して医療の改善や生活水準の向上、経済機会の拡大といった現実社会の課題解決につなげることが重要であると締めくくりました。