【AI黙示録】AIはこうして人類を滅ぼす！？専門家が挙げた”5つの滅亡シナリオ”

2026.09.28 11:30 文＝仲田しんじ

Xでポスト

【AI黙示録】AIはこうして人類を滅ぼす！？専門家が挙げた"5つの滅亡シナリオ"の画像1 — イメージ画像　Created with AI image generation

　進化を続けるAIは人類を滅ぼすのか――。オーストラリアのAI専門家がAIによって人類が滅びる5つのシナリオを解説している。

■AIによる人類滅亡シナリオ5選

　テック業界の重要人物たちが相次いでAI開発の危険性を訴えている。進化し続けるAIは最終的に人類に牙を剥くのか――。

　豪ニューサウスウェールズ大学の人工知能分野の教授、トビー・ウォルシュ氏がAIがどのように人類を滅亡させるのか、5つのシナリオを解説している。

1.人間には決して分からない
　AIは一体どのようにして我々全員を滅ぼすというのだろうか。空想的なシナリオは数多く存在するが、そのほとんどは超人工知能（ASI）、あるいは汎用人工知能（AGI）、つまり人間よりも能力の高いAIの出現という“シンギュラリティ”に基づいている。

　AIがどんな悪さをするのか？　そこには矛盾があり、我々を超えた知能の振る舞いは基本的に我々の理解を越えているのだ。

　囲碁や将棋でAIが指す手を人間の棋士が理解して対応できないように、AIがどうやって人類を滅ぼすのか、基本的には我々の想像が及ばないとの前提にはかなりの妥当性があるだろう。

　さらに背筋が寒くなるかもしれないのは、AIが人類の自覚無しに支配を確立してしまう可能性である。そしてその状況は人間が人間である限りは永遠に気づくことができないのかもしれない。

2.飽くなき任務遂行
　哲学者ニック・ボストロム氏の思考実験「ペーパークリップ最大化装置」では、 AIに「できるだけ多くのペーパークリップを作りなさい」という単純な目的を与えたことで、AIが地球上の資源を最大限活用し、妨害する人間を排除し、さらに人体を物理的資源として活用して地球をクリップ工場に変えてしまうというストーリーが示されている。

　ここで示されているのは、AIは人間のような悪意や感情を持っていなくても、与えられたプログラムや目標を「極端に最適化」するだけで、結果的に人類にとって破滅的な事態を招く可能性である。

　これはAIの目標や行動原理を、人間の意図や倫理観、価値観にしっかりと一致させることが極めて難しいという「AIアライメント問題」として提起されている。

3.生物兵器
　AIが危険な新型生物兵器を製造し、大気中に放出することで人類が滅亡する可能性を、非営利団体である「AI Futures Project」が発表している。

　このリスクは先月、スタンフォード大学の研究者らがAIモデルを用いて16種類の新たなウイルスを合成したと発表したことで、より現実味を帯びはじめている。

　安心材料としてはウイルスの感染力と致死率の高さはトレードオフの関係にあることだ。感染力の高いウイルスは致死率が低く、致死率の高いウイルスは宿主を死に至らしめてしまうので感染率は低い。

　13世紀のヨーロッパの人口の3分の1以上がペストで命を落としたといわれているが、現代では医学知識の向上と衛生状態の改善により、ペストの致死率ははるかに低くなっているはずである。

4.核戦争
　もしAIが核兵器の指揮統制システムに侵入し、核戦争を引き起こす可能性がどのくらいあるのか。実際に過去50年間で人類は幾度となく核戦争の瀬戸際に立たされてきた。

　核兵器の指揮統制システムはインターネットから完全に切り離されていると言われている。しかし2010年にインターネットから完全に切り離されていたイランの核施設にUSBメモリを介してウイルスが侵入し、ウラン濃縮用の遠心分離機を次々と破壊した「スタックスネット（Stuxnet）」と呼ばれるサイバー攻撃が起きている。

　世界の核兵器の備蓄量は減少している事実は朗報ではあるが、それでもなお人類の半数を滅ぼすのに十分な量があってもおかしくない。しかも核爆発そのものによる被害だけではなく、むしろその後に続く核の冬による食糧不足によって人類は存亡の危機に立たされるだろう。

5.人災
　いかにもあり得そうなリスクは、人類が自らを滅ぼしてしまうことだろう。そしてAIの存在がそのきっかけとなる可能性がある。

　AIが大規模な雇用喪失を引き起こし、情報空間をフェイクニュースで汚染し、政治的分断を進めるようなことがあれば、現実の人間関係にも疑心暗鬼が広がりかねない。

　信用が著しく低下した社会では、これまで当たり前であったサービスや社会インフラが維持できなくなり、ゆっくりと社会が崩壊へと向かうことなるかもしれない。

　これら5つのシナリオのいずれかの事態に近い将来我々は直面することなるのだろうか。ウォルシュ氏は過度に心配する必要はないと示唆しているが、思考実験としてはあらゆる可能性を想定しておく必要があるのだろう。