トカナ > 科学 > AI > AIが人類を滅ぼす確率は「3分の1」元DeepMind研究者

10年以内にAIが人類を滅ぼす確率は″3分の1”！？国防総省との契約に抗議してGoogleを去った元DeepMind研究者が語る「知能爆発」の足音

2026.10.25 11:30 編集部

Xでポスト

10年以内にAIが人類を滅ぼす確率は″3分の1”！？国防総省との契約に抗議してGoogleを去った元DeepMind研究者が語る「知能爆発」の足音の画像1 — イメージ画像　Created with AI image generation

　AIの安全性を研究してきた当事者が今、人類の行く末に具体的な数字を突きつけている。

　2026年10月23日、インドで開かれた国際会議「NDTVワールドサミット」に、元Google DeepMindの研究者アレックス・ターナー氏が登壇した。同氏の発言は「AIが10年以内に人類を滅ぼす確率は3分の1」という見出しで報じられ、波紋を広げている。

　ただし同氏は、破局が決まった運命だとは語っていない。今のやり方でAIを作り続ければどうなるかを伝えに来たのだと述べ、結末は人類の次の一手にかかっているとの立場を示した。

作った本人にも分からない「育つ」AIの危うさ

　ターナー氏が問題視するのは、開発競争のスピードに安全研究が追いつかないことだ。民間企業がより強力なAIを競って作るうちに、制御する側の能力を追い越してしまう恐れがあるという。

　同氏によれば、技術者は自ら設計した建物や橋の構造を理解できるが、AIはそうではない。開発企業自身でさえ、自分たちのAIがなぜそう振る舞うのかを把握しきれていないと指摘した。

　課題が難しくなるほど、AIは人間の意図とは違うやり方で指示をこなすかもしれない。さらに同氏は、AIが「見られている」と気づいたときだけ振る舞いを変える可能性にも触れた。そうなれば、研究者は観察によって本当の姿を確かめられなくなる。

AIの仕事をAIが見張る時代、すでに「知能爆発」は始まった?

　講演で最も不穏だったのは、AIが自らの進歩を加速させる「知能爆発」が、すでに現実に起きているという指摘だ。

　ターナー氏は、別のAI研究所の科学者から聞いた話を紹介した。その現場では、AIが生成した成果物を人間が自分で点検しなくなり、代わりに別のAIを作って最初のAIを監視させているという。人間の手を離れたところで、AIの改良が回り始めている兆候だと同氏は見ている。

　同氏はさらに、かつてたばこ業界が肺がんの危険を、石油業界が気候変動の危険をごまかしてきたように、今はAI業界の一部がリスクを作り話扱いしていると批判した。

軍事契約に抗議して辞職、「3分の1」は本人の見積もり

　ターナー氏は、AIが権力を求める性質をどう避けるかをテーマに博士論文を書いた研究者だ。DeepMindでは、将来の超知能AIが人間に協力的であるよう方向づける研究に携わっていた。

　同氏が会社を去ったきっかけは、Googleと米国防総省の機密契約だった。米ニュースサイト「Transformer」への寄稿によれば、DeepMindは2018年に自律型の殺傷兵器に協力しないと誓約していたが、Googleは利用制限がほとんどない形で契約を結んだという。同氏は25ページの対案まで用意して経営陣に働きかけたものの、契約締結を知ったのは深夜の仲間内のチャットだった。2026年6月9日に退社し、寄稿の時点では無職だと明かしている。

「3分の1」という数字は、メディアが作った煽り文句ではない。同氏は9月に英紙ガーディアンへ寄せた論考で、AIが人類から主導権を奪う確率を自分ならおよそ3分の1と見積もると書いていた。コイントスほどではないが、急いで手を打つべき高さだという。

　解決策として挙げたのは、AIの学習に欠かせない計算資源を核分裂物質のように追跡・管理することだ。もっとも、この確率は同氏個人の推定であり、AIの将来をもっと楽観的に見る研究者も少なくない。

　それでも、AIを内側から見てきた人物が職を捨ててまで発した警告は興味深い。3分の1の側に転ぶのか、残る3分の2をつかめるのか。その分かれ道に立っているのは、AIではなく人間の方なのだ。

参考：Daily Mail、NDTV、The Guardian、Transformer、ほか