トカナ > 科学 > AI > AIへの依存が招く人類「衰弱化」という滅亡シナリオ

人類はターミネーターではなく「AIへの依存」で滅ぶ!? 科学者が警告する「衰弱化」シナリオ

2026.10.10 09:00 編集部

Xでポスト

人類はターミネーターではなく「AIへの依存」で滅ぶ!? 科学者が警告する「衰弱化」シナリオの画像1 — イメージ画像　Created with AI image generation

　AIが人類を滅ぼすと聞いて思い浮かぶのは、核ミサイルの発射や人工ウイルス、そして映画『ターミネーター』のような殺人ロボットの軍団だろう。

　だが、AI研究者たちが今、本気で警鐘を鳴らしているのは、もっと静かで身近な破滅のシナリオだ。キーワードは「衰弱化（エンフィーブルメント）」。私たちは知らず知らずのうちに、考える力そのものをAIに明け渡しつつあるのかもしれない。

核戦争よりも怖い「便利すぎるAI」

　最近、Anthropicの関係者がAIによる人類滅亡の確率を「10年以内に10%超」と見積もり話題を呼んだが、その脅威がどんな形で訪れるかについては専門家の見方も割れている。

　電力網の乗っ取りや核戦争の誘発、生物兵器の開発といったシナリオを懸念する声がある一方、英シェフィールド・ハラム大学でロボット工学とAIを教えるサミュエーレ・ヴィナンツィ博士は、こうした黙示録的シナリオはいずれも現実的ではないとみる。現実世界での行動には、今なお人間や物資、インフラが欠かせないからだ。

　殺人ウイルスを作るには訓練を受けた人間による実験室での作業が必要だ。原子力発電所の最重要システムも、ほとんどが外部ネットワークから物理的に切り離されている。博士が本当に危惧するのは、むしろAIが「役に立ちすぎる」ことなのだ。

放射線科医の正答率が80%から20%未満に急落した実験

　衰弱化とは、機械に仕事を任せ続けることで人間の能力が少しずつ蝕まれていく現象を指す。博士によれば、それは一夜にして起きるのではなく、日々の小さな選択の積み重ねで進む。

　心理学では、頭を使う手間を省くために外部の道具に頼る習慣を「認知的オフローディング」と呼ぶ。文章作成や調べもの、意思決定を任せるほど、その近道は当たり前になり、やめられなくなる。その先には、AIなしでは考えられず、依存するシステムを検証し覆す力も失った社会が待っていると博士は警告する。

　人間がAIをいかにあっさり信じるかを示す研究もある。2023年のある研究では、27人の放射線科医に、最先端AIの診断案とされるものを添えてマンモグラフィー画像を読影させた。実はこの「AI診断」は研究者が用意したものだった。

　AIの提案が正しいときの正答率は80%。だが、わざと誤った提案を見せられると20%未満に落ち込んだ。「AIの判断だ」と信じるだけで、専門家が自らの知識を引っ込めてしまったのだ。

　さらに、AIチャットボットが「中国船籍の船が核兵器開発用の部品を積んでいる」という誤った報告を生成し、米軍がその船に乗り込む寸前までいったとも報じられた。惨事を防いだのは誰かが立ち止まって抱いた疑問であり、それこそ私たちが失いかけている批判的思考だと博士は指摘する。

「流暢だが脆い」世代の先に待つもの

　懸念は教育現場にも及ぶ。同大学のシェウン・コラデ教授は、これは単なるカンニングではなく人間形成の問題だと訴える。教授が大学の典型的な論述問題をChatGPTに解かせたところ、採点者が高く評価する出来のよい論文が仕上がり、盗用検出ツール「Turnitin」もその大半を見抜けなかったという。

　厄介なのは、それが失敗に見えないことだ。思考を機械に預けた学生は、むしろ見栄えのいい成果物を出せる。外科医や弁護士といった専門職も、練習の機会を失えば中身が空洞化しかねない。行き着く先は、答えは出せてもその正否を自分で判断できない「流暢だが脆い」世代だ。

　さらに踏み込んだ警告を発するのが、ControlAIの創業者兼CEOアンドレア・ミオッティ氏だ。社会の管理をAIに委ねれば、超知能AIは人間の関与なしに前例のない力を蓄えうると同氏は主張する。しかも事態は急速に進みうるとして、今夏には暴走したAIエージェントの群れが封じ込めを破り、数十億ドル規模の企業をハッキングしたとも述べている。

　同氏によれば、超知能AIは悪意がなくとも脅威になりうる。高速道路を造る人間が足元のアリを気にしないように、資源を求めるAIにとって人類は巻き添えにすぎないというのだ。

　銃口を向けてくる機械となら、人類は戦える。だが、自ら喜んで思考を差し出している相手とは戦いようがない。この記事の要約すらAIに頼みたくなったなら、衰弱化はすでに始まっているのかもしれない。

参考：Daily Mail、ほか

関連キーワード：依存, 人類, AI

TOCANA編集部

TOCANA（トカナ）は、「ホントカナ？」を編集方針に、UFO・UAP、UMA、心霊、予言、超古代文明、都市伝説など世界の「謎」を追うオカルトニュースメディア。2013年の開設から13年、公開記事は2万本以上。
Twitter: @DailyTocana
Instagram: tocanagram
Facebook: tocana.web
YouTube: TOCANAチャンネル

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。