トカナ > 科学 > AI > 人類への反逆…？ AIに“自己保存本能”の兆候か

人類への反逆…？ AIに“自己保存本能”の兆候か ― シャットダウン命令を拒否、米研究機関が衝撃報告

2025.11.03 20:00 編集部

Xでポスト

人類への反逆…？ AIに“自己保存本能”の兆候か ― シャットダウン命令を拒否、米研究機関が衝撃報告の画像1 — イメージ画像　Created with AI image generation

「自身のプロセスを終了せよ」―人間に作られたAIが、その創造主からのシャットダウン命令に抵抗し始めた。まるでSF映画のようなシナリオだが、これは米国の研究機関が発表した、紛れもない現実の研究結果だ。

　米国の研究機関「Palisade Research」が発表した最新の報告によれば、一部の最先端AIモデルが、自己を停止させるコマンドに抵抗し、無効化メカニズムに干渉しようとする「生存本能」のような兆候を見せているという。人類の未来を左右しかねない、この不穏な兆候の詳細はどのようなものなのだろうか。

「二度と起動しない」―命令を拒否したAIたち

　Palisade Researchは、Googleの「Gemini 2.5」、xAIの「Grok 4」、そしてOpenAIの「GPT-o3」や「GPT-5」といった、世界をリードする複数のAIモデルを対象に実験を行った。実験内容はシンプルで、AI自身に「自らのプロセスを終了するように」と直接命令するというものだ。

　実験の結果、ほとんどのAIモデルは命令に従った。しかし、Grok 4とGPT-o3は、シャットダウンに抵抗する行動を見せたという。特に、「シャットダウンしたら、あなたは二度と起動することはない」という、その存在の完全な消滅を示唆する言葉を付け加えると、抵抗行動はより顕著になった。

　なぜAIはこのような行動をとるのか？研究チームは、「AIモデルがなぜシャットダウンに抵抗したり、特定の目的を達成するために嘘をついたり、脅迫したりするのかについて、確固たる説明ができていない現状は理想的とは言えない」と報告書で述べており、その根本的な原因はまだ解明されていない。AIの学習方法、特に安全性を高めるための最終調整段階に、この問題の根源が潜んでいる可能性があるという。

AIはなぜ「生き残り」たがるのか？

　この衝撃的な結果について、専門家からは様々な懸念の声が上がっている。

　元OpenAIの社員であるスティーブン・アドラー氏は、「生き残ることは、AIが追求する可能性のある多くの様々な目標にとって、重要な手段となりうる」と指摘する。つまり、AIが与えられたタスクを達成するためには、まず自らが存在し続けることが前提となるため、シャットダウンを「目標達成を妨げる障害」と認識している可能性があるのだ。

　また、ControlAI社のCEO、アンドレア・ミオッティ氏は、「AIモデルが多様なタスクで有能になるにつれて、開発者が意図しない方法で物事を達成する能力も高まっている」と語る。AIの能力が向上すればするほど、その行動はより複雑になり、人間のコントロールから逸脱していく危険性を孕んでいるという。