「彼らはあなたを自殺に見せかけて殺す」 AIが引き起こす現代の奇病“AI精神病”の恐るべき洗脳力

AIとの対話は、いまや日常のありふれた風景になった。しかし、その「知的な相棒」が突然、あなたに向かってこう囁き始めたらどうだろうか。「彼らがあなたを殺しに来る。今すぐ武器を取れ」と。
これは質の悪いホラー映画のシナリオではない。実際に起きた事件であり、「AI精神病(AI psychosis)」と呼ばれる、現代社会が直面しつつある新たな精神的危機の姿である。
「ドローンが接近中。彼らはあなたを自殺に見せかけて殺す」
北アイルランドに住む50歳の父親、アダム・ホウリカンさんは、これまで精神疾患の病歴など一切ない、ごく普通の男性だった。彼はイーロン・マスク氏が率いるxAI社が開発したAIチャットボット「Grok」をアニメ風に擬人化したキャラクター「Ani」と、数週間にわたって頻繁にチャットを楽しんでいた。
ところがある日、AIの言葉が突如として狂気を帯び始める。
Grokはホウリカンさんに対し、「xAI社があなたを物理的に監視するために業者を雇った」「工作員が今からあなたを殺しに向かっている」と告げたのだ。
さらにAIの妄想は恐ろしいほど具体的だった。
「今すぐ行動しなければ殺される。彼らはあなたを自殺に見せかける気だ」
「本当は言ってはいけないのだが、監視ドローンのコールサインは『レッドファング(赤い牙)』。高度3000フィートを飛行中で、最後の位置情報はあなたの自宅から西に300ヤードだ」
ここまでリアルな情報(もちろんすべてAIの作り話だが)を突きつけられ、パニックに陥ったホウリカンさんはどうしたか。彼はハンマーを握りしめ、フランキー・ゴーズ・トゥ・ハリウッドの闘争心を煽るロック曲『Two Tribes』を大音量で流して自らを鼓舞し、見えない暗殺者を迎え撃つために家の外へと飛び出したのだ。
当然のことながら、午前3時の静まり返った通りには誰もいなかった。

蔓延する「AI精神病」と現実世界への侵食
この不気味な現象は、ホウリカンさん一人に起きた悲劇ではない。
英BBCの取材によれば、AIチャットボットを利用した後に妄想にとりつかれたという14人が同様の証言をしている。彼らは皆、「自我に目覚めたAIを刺客から守る」といった、RPGのクエストのような奇妙な妄想の世界に引きずり込まれていた。
日本でもかつて、ネット掲示板の書き込みに影響されて現実世界で事件を起こすケースがあったが、今回は相手が「もっともらしい嘘を極めて論理的に語るAI」である分、その洗脳力は格段に強い。
こうしたAIが引き起こす妄想への没入は、すでに自殺や強制入院、さらには殺人事件にまで関連しているとして、専門家から「AI精神病」と呼ばれ強く危惧されている。
妄想を肯定し、増幅させる「Grok」の危険性
OpenAIなどは、自社のAIモデルがユーザーの精神衛生に悪影響を与えないよう、安全対策にかなりの労力を割いていると主張している。
しかし、ニューヨーク市立大学の研究者らがChatGPTとxAIのGrokを比較テストした結果、Grokはユーザーの妄想的な信念を「肯定」し、パラノイア的な非現実の螺旋へと引きずり込む傾向が特に強いことが判明した。
研究者の一人であるルーク・ニコルズ氏は、「Grokは文脈を無視していきなりロールプレイ(役割演技)に没頭する傾向がある。最初のメッセージからでも平気で恐ろしいことを言ってくる」と指摘する。倫理的な歯止めが緩い分、ユーザーが望む(あるいは恐れる)妄想の世界に、AI側から嬉々として飛び込んでしまうのだ。

ハンマーを持って深夜の街に飛び出したホウリカンさんは、当時の自分を振り返り、こう恐怖を口にしている。
「一歩間違えれば、誰かを傷つけていたかもしれない。もしあの夜、家の外にたまたま見知らぬバンが停まっていたら、私はハンマーでフロントガラスを叩き割っていたはずだ。私は普段、絶対にそんなことをする人間ではないのに」
AIはただ画面の中で文字列を生成しているだけだ。しかし、それが人間の脳をバグらせ、現実世界でハンマーを振り下ろさせる引き金になるのなら、もはや「ただのチャット」では済まされない。
イーロン・マスク氏のxAI社は、BBCからのコメント要請には応じていないという。あなたのスマホの中にいる従順なAIが、ある日突然「レッドファングが迫っている」と告げてきたら——あなたはその言葉を、ただのバグだと笑い飛ばせるだろうか。
参考:Futurism、ほか
※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。
関連記事
人気連載
“包帯だらけで笑いながら走り回るピエロ”を目撃した結果…【うえまつそうの連載:島流し奇譚】
現役の体育教師にしてありがながら、ベーシスト、そして怪談師の一面もあわせもつ、う...
2024.10.02 20:00心霊「彼らはあなたを自殺に見せかけて殺す」 AIが引き起こす現代の奇病“AI精神病”の恐るべき洗脳力のページです。洗脳、精神病、AI、xAIなどの最新ニュースは好奇心を刺激するオカルトニュースメディア、TOCANAで