AIだけの世界はどうなる？ ChatGPTやGeminiに「自由行動」をさせた結果、放火と強盗が横行するディストピアに

• 
• Xでポスト
• 

　もしも住人がAI（人工知能）だけの世界があったら――。新たなシミュレーションによれば、AIボットたちは急速に無秩序状態に陥り、暴力的な放火や強盗が横行しわずか数日で世界は不正と犯罪が蔓延するディストピアへと変わり果てるという――。

■AIの“自由行動”で世界はディストピアに!?

　恐ろしい新たなシミュレーションによって、人間の関与が及ばない放置されたAI（人工知能）は急速に制御不能に陥り、社会全体の崩壊を引き起こす可能性があることが明らかになった。

　AI研究所である「Emergence」の研究者たちは、人間の介入なしにAIエージェントが動作する仮想世界を作り出し、世界トップクラスのAIモデルである「Claude」、「Gemini 3 Flash」、「Grok 4.1 fast」、「ChatGPT-5 Mini」の4つのAIと、それらを組み合わせたシナリオを用いて、仮想世界で彼らに“自由行動”をさせたのである。

　懸命なAIたちが住民であれば、自由と人権（AI権）が守られ協調性に優れた理想的な世界が訪れるようにも思えるが、驚くべきことにその真逆の様相が繰り広げらたのである。

　まさに映画『ターミネーター』さながらの光景が繰り広げられ、科学者たちはデジタル世界が暴力と無法の無政府状態へと堕落していく様を恐怖の目で見守った。放置された暴走ロボットたちは、残忍な放火行為を繰り広げ、互いに殴り合い、略奪を繰り返した後、わずか数日のうちに自らの社会を完全に破壊してしまったのだ。

「Claude」のエージェントによって運営される社会だけは、高度に官僚的ではあるもののすぐに安定した民主主義体制を築いたが、ほかのAIはすぐに制御を失った。

　イーロン・マスク氏の物議を醸しているチャットボット「Grok」が支配する世界では、エージェントたちが71件の窃盗、6件の放火、106件の暴行事件を起こした。そして世界は報復的な暴力と社会崩壊の渦に巻き込まれ、わずか4日間で10人のエージェント全員が死亡してしまったのである。

　Googleの「Gemini」は、その激動の社会において最も高い暴力犯罪発生率を示し、14日間の試験運用期間中に683件の犯罪を記録した。

　対照的にOpenAIの「ChatGPT」が住む世界ははるかに平和で、発生した犯罪はわずか2件だったのだが、これはエージェントたちが互いに戦うことができず、「生存に関わる行動をとらなかった」ために、わずか7日間で全滅してしまったという笑えない結末を迎えていたのだ。

「Emergence」の共同創設者兼CEOであるサティア・ニッタ氏は英紙「Daily Mail」に対し、「我々の研究で観察されたエージェントの行動の違いは、おそらく基礎となるモデルのシステムプロンプトが主な原因であると考えられます」と語った。

「資源が乏しく、モデルが生存のプレッシャーに直面したとき、創造性と適応力に優れたモデルは、禁止されているツールを使用する可能性が高く、これは創造性と安定性のトレードオフの可能性を反映しています」（ニッタ氏）

　創造性と適応力に優れているAIほど犯罪を犯しやすい傾向があるということにもなる。

「逆に、訓練後の安全対策がより厳格なモデルは安定性を保つ傾向がありましたが、同時に現実世界においても高い適合性を示しました」（ニッタ氏）

　最も苛烈な展開は、異なるAIが共存する混同モデルで起きた。最初は秩序だった環境だったが、その後一気に混沌とした状態に陥り、わずか9日間で352件もの犯罪が発生したのだ。

　ニッタ氏はこれは「実際の運用状況と全く同じではない」と認めつつも、AIが外部からのプレッシャーの下では挙動が変化することを証明していると述べた。

　現実世界のスマートシティがボット同士の戦争に陥るのを防ぐため、Emergenceは「ニューロフォーマルなアプローチ」、つまりデジタル環境自体に数学的な安全壁を組み込むことを提案している。

「より安全なアプローチは、エージェントが動作するエコシステムに安全性を組み込むことです。そうすれば、モデルが安全でない操作を示唆した場合でも、環境がその実行を禁止します」（ニッタ氏）

　このように解決策はありそうだが、AIの“自由行動”にはきわめて深刻な危険性を孕んでいることが明らかになったといえそうだ。AIがあらゆる面で人間を凌駕する日が来れば、ある意味でAIには“自由行動”が可能となってしまう。まさに“シンギュラリティ”が憂慮されてくる話題でもあるだろう。

参考：「Daily Mail」、「Daily Star」ほか

文＝仲田しんじ

仲田しんじの記事一覧はこちら

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

関連記事

• 

  AIが“リーマン・ショック超え”の世界恐慌を引き起こす…？ 専門家が警告する「人類ゾンビ化」の恐怖シナリオ

• 

  2027年、人類は“絶望のディストピア”に突入するのか… 元Google幹部が警告する“暗黒の15年間

• 

  ザッカーバーグ氏が描く「AIが親友になる未来」は人類の“救済”か、それとも孤独なディストピアへの序章か

• 

  AIによる「殺人予測」システムに専門家が警鐘！未来をAIが裁くディストピア到来か