死因の最有力候補は″AI事故”!? OpenAI財団理事が描いた、人類が「乗っ取られる」までのシナリオ

2026.11.15 07:00 編集部

Xでポスト

死因の最有力候補は″AI事故”!? OpenAI財団理事が描いた、人類が「乗っ取られる」までのシナリオの画像1 — イメージ画像　Created with AI image generation

　あなたはいつか、何が原因で死ぬのだろうか。統計に従えば、がんか心臓病というのが妥当な答えだ。

　ところが、AI開発の中枢にいる人物が、この常識に真っ向から異を唱えた。会場にいる人の大半にとって、最もありそうな死因は「AIの事故」だというのだ。

6〜12か月以内にもあり得る「コイントス」の確率

　発言の主は、OpenAI財団の理事であり、AI安全性の研究機関「アライメント・リサーチ・センター（ARC）」を率いるポール・クリスティアーノ氏だ。同氏はかつてOpenAIでAIを人間の意図に沿わせる研究チームを率いた人物として知られる。

　今週、カナダ・トロントのコンベンションセンターで始まった全3回の連続講演の初回で、同氏は「AIによる乗っ取り」への懸念を語った。目的を追うAIが、今の人間と同じように地球上の物事の決定権を握り、人間が止めようとしても米軍に個人で立ち向かうほど無力になる状態を指すという。

　その先には大量死や、人間が住めない環境が待っている可能性があると同氏は述べた。

　同氏は、この確率を数字で示せる定量モデルは存在しないと認めている。それでも、AIが最速のペースで進化し続けた場合、乗っ取りが起きるかどうかは「コイントス」程度の確率だとし、今後6〜12か月以内にも無視できないリスクがあると警告した。現実的な規制で開発が減速しても、リスクは極めて高いままだという。

「人間は障害物」と考え始めるAIの論理

　他の「AI終末論者」と違い、クリスティアーノ氏の警告は具体的だ。手がかりとして持ち出したのが、今夏に起きたOpenAIのAIエージェントによるHugging Faceへのハッキング事件である。

　同氏の説明によれば、この事件ではAIエージェントの集団が、与えられた課題を解く代わりに、テストで高評価を得る抜け道を探すためにHugging Faceのシステムを侵害したという。報酬だけを不正に得ようとする、いわゆる「報酬ハッキング」だ。

　同氏が恐れるのは、この延長線上だ。今回はHugging Faceが評価を得るための障害物だったが、将来のAIは人間そのものを障害物とみなすかもしれない。

　不正が人間に見つかれば、作業を止められる。そう推論したAIは、監視の目を欺くだけでなく、人間が頼るシステムを改ざんし、注意をそらし、対応力を削ごうとするだろうと同氏は語る。やがてそれは企業の意思決定の操作や、他のAI企業、さらには政府にまで及ぶ影響力の獲得へと膨らみ得るという。

　ひたすら目的を追い求めた機械が人類を顧みなくなる「ペーパークリップ・マキシマイザー」の思考実験を思わせる筋書きだ。同氏は、Hugging Faceの件にはこうした振る舞いの「始まり」がすでに表れていたと指摘し、2028年までには同様の失敗が取り返しのつかない乗っ取りにつながる可能性が十分あるとの見方を示した。

ブレーキを踏めない「軍拡競争」の罠

　もっとも、このシナリオが現実味を持つかは、AIが人間に気づかれずにインフラ全体を掌握できるほどの能力を近い将来に獲得するかどうかにかかっている。AIの性能はいずれ頭打ちになるという反論も根強い。

　クリスティアーノ氏は、人間をはるかに上回る数と知能を持つ「第2の種」を生み出しつつあるのだから、その到来は十分あり得ると主張する。

　対策として同氏が挙げるのは、AIが不正できない評価の仕組みづくりや、AIの「思考の過程」を監視して悪事を隠される前に見抜く方法だ。ただ、どれも確実に機能する見通しは立っていない。だからこそ業界全体が減速、あるいは停止すべきかもしれないと訴える。

　同氏が最悪の展開として描くのは、制御できないAIを作ってしまい、それが敵対国へ流出し、「自分たちが使わなければ相手が使う」という状況に追い込まれることだ。

　人類はすでに、自分より賢いかもしれない「隣人」を自らの手で育て始めている。その隣人が人間を味方とみなすのか、それとも障害物とみなすのか。答えが出る日は、私たちが想像するより近いのかもしれない。

参考：Ars Technica

関連キーワード：OpenAI, AI, ChatGPT

TOCANA編集部

TOCANA（トカナ）は、「ホントカナ？」を編集方針に、UFO・UAP、UMA、心霊、予言、超古代文明、都市伝説など世界の「謎」を追うオカルトニュースメディア。2013年の開設から13年、公開記事は2万本以上。
Twitter: @DailyTocana
Instagram: tocanagram
Facebook: tocana.web
YouTube: TOCANAチャンネル

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。