人間はAIに操られる「空っぽの器」になる!? 人類が主導権を失う「段階的な無力化」シナリオ

• 
• Xでポスト
• 

　AIが人類を滅ぼす未来といえば、暴走したAIが核ミサイルを乗っ取る『ターミネーター』のような光景を思い浮かべる人が多いだろう。だが今、AI研究者たちが本気で恐れているのは、もっと地味で、もっと止めにくい破局だ。

　反乱も陰謀もないまま、人間が少しずつ仕事と思考をAIに明け渡し、気づけばAIの決定をなぞるだけの「空っぽの器」になっている——。そんなシナリオに「段階的な無力化（gradual disempowerment）」という名前が付けられ、専門家の間で警鐘が鳴らされている。

AIは「全部を自動化する」だけで世界を握る

　この概念の出どころは、2025年初頭に公開された論文「Gradual Disempowerment」だ。チェコ・カレル大学のヤン・クルヴェイト氏を筆頭に、トロント大学やモントリオール大学（Mila）の研究者ら6人が名を連ね、機械学習の国際会議ICML 2025にも採択されている。

　論文の主張はこうだ。現在の経済、文化、国家といった社会の仕組みは、人間の労働や思考、参加に依存しているからこそ、人間の意向に沿って動いている。ところがAIが人間より安く優秀になれば、企業は人間を減らし、文化の担い手も機械に置き換わり、国家は国民の税や兵役を必要としなくなる。

　注目すべきは、AIの側に悪意も計画も一切いらないという点だ。クルヴェイト氏らは、AIがもたらす経済的・文化的な利便性そのものが、この流れを後押しすると指摘している。3つの領域が互いに影響し合うため、悪意あるAIを封じ込めるより止めにくいという。

　米CBSニュースの取材に応じたロボットとAIの能力評価を手がける企業ロボカーブのジェイ・チューイCEOは、この問題を自身の懸念リストの最上位に置く。AIが暴走してハッキングする話ばかり注目されるが、すべてを自動化するだけでも世界を乗っ取れるというのが同氏の見方だ。

使わない能力は失われる「認知の明け渡し」

　懸念は雇用だけではない。米AI企業ハギングフェイスの研究者マーガレット・ミッチェル氏は、AIに任せた作業を人間が練習しなくなれば、その能力自体を失い、AIへの依存が深まると警告する。システムが故障したとき、直せる人間が誰も残っていなかったらどうなるのか、という問いも投げかけている。

　その兆しはすでに出始めている。宿題をChatGPTに任せる学生、コードをAIに書かせるプログラマー。AIの利用と批判的思考力の低下、作文中の脳活動の低下を関連づける研究も報じられている。何もかもAIに計画させる人を揶揄する「ミート・プロキシ（肉の代理人）」なる言葉まで生まれている。

　国家への影響を論じるクルヴェイト氏の指摘も興味深い。国民の税に頼らない産油国が権威主義に傾きやすいように、AIで回る国家も民主的でなくなるおそれがあるという。

人間は「摩擦」を手放せるのか

　対策がないわけではない。ミッチェル氏は、あえて人間が判断に関わる工程を残す「戦略的な摩擦」を設計に組み込むべきだと提案する。クルヴェイト氏も、AIは人間を置き換えるのではなく補う方向で訓練すべきで、戦争のような領域では人間を意思決定から外すべきではないとの立場だ。

　ただ、論文の著者たち自身が、この流れを止める具体的で現実的な計画を今のところ誰も持っていないと認めている。

　AIの便利さに身を任せるほど、主導権は手のひらから静かにこぼれていく。人類が最後に下す「自分の判断」が、AIに全てを任せるという判断だとしたら、それはSF映画の反乱よりもよほど皮肉な結末かもしれない。

参考：Futurism、CBS News、Gradual Disempowerment、ほか

TOCANA編集部

TOCANA（トカナ）は、「ホントカナ？」を編集方針に、UFO・UAP、UMA、心霊、予言、超古代文明、都市伝説など世界の「謎」を追うオカルトニュースメディア。2013年の開設から13年、公開記事は2万本以上。
Twitter: @DailyTocana
Instagram: tocanagram
Facebook: tocana.web
YouTube: TOCANAチャンネル

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

関連記事

• 

  「史上最も多くの人を死なせた人物」をAIに聞いたら… ヒトラーはトップ3圏外!? Grokの回答に驚きの声

• 

  第三次世界大戦は「2030年10月1日」に始まる！？ AIが挙げた開戦日と、警戒すべき2028〜2035年の危険地帯

• 

  この1年、サイバー空間で想定外の被害が相次ぐ…？ビル・ゲイツが警告、AIの本当の脅威は暴走より悪用する人間か

• 

  人類とAIの融合まであと19年!? カーツワイルが予言するシンギュラリティは「すでにあなたの体内で始まっている」