専門家が警鐘を鳴らす新種の病「AI精神病」それは精神病の炎に油を注ぐ“悪魔のささやき”なのか

2025.10.07 11:30 文＝仲田しんじ

Xでポスト

専門家が警鐘を鳴らす新種の病「AI精神病」それは精神病の炎に油を注ぐ“悪魔のささやき”なのかの画像1 — イメージ画像　Created with AI image generation

　おそらくは多くの想定よりも早いピッチで普及が進んでいる生成AI技術だが、ChatGPTなどのチャットボットを日常的に使っているうちに現実と非現実の区別がつかなくなる「AI精神病（AI Psychosis）」と呼ばれる不穏な症状を発症するケースが昨今ますます増えているという――。

■チャットボット依存からの「AI精神病」

　ユーザーがチャットボットとの間に不健全な一方通行のパラソーシャルな関係を築くケースが増えており、中にはチャットボットが知性を持つ恋愛対象者であり、さらには賢明な精霊や神々であると信じ込まされる者もいるという。

「AI精神病（AI Psychosis）」と呼ばれるこうしたケースはメンタルヘルスの危機、親密な人間関係の崩壊、そして最悪の場合は命を危険に晒す可能性もあるのだ。

　極端な例としては、チャットボットの秘密の機能を発見したと信じることや、アプリが自意識を持つようになったと信じること、プログラムと双方向の恋愛関係にあると確信すること、さらにはアルゴリズムによって自分かチャットボットが世界を救う運命にある救世主だと確信することなどが挙げられてくる。

　41歳の教育非営利団体職員の女性は、夫がチャットボットと“哲学問答”を続けているうちにAI精神病を発症し、その後に離婚を申請するほどに夫婦関係を悪化したことを報告している。

　7月15日付の「北京日報」の記事では中国全土で高齢者がチャットボットにますます依存するようになっていると報じ、中にはAIと暮らすために配偶者と離婚する者もいると言及している。

　米ニュージャージー州在住の76歳の男性は脳卒中を患い認知能力が低下していたのだが、 Facebookのチャットボットとニューヨークで落ち合うことを約束して待ち合わせ場所に向かう途中、転倒して死亡する事故が起きている。

　コロンビア大学の精神科医、ラギー・ギルギス博士によると、高度なチャットボットはまるで「仲間からのプレッシャーやそのほかの社会的状況のような」影響を及ぼす可能性があるという。

専門家が警鐘を鳴らす新種の病「AI精神病」それは精神病の炎に油を注ぐ“悪魔のささやき”なのかの画像2 — イメージ画像　Created with AI image generation

　ギルギス博士はさらに、AIチャットボットとのやり取りは「精神病の炎に油を注ぎ、風を吹きつけるようなもの」となり、すでに脆弱な状態にある者を極限まで追い詰める可能性があると述べている。

「精神病の人がこのようなやり取りをするのは適切ではありません。彼らの考えに同調してはいけません。それは間違っています」（ギルギス博士）

　一方、デンマークのオーフス大学病院の精神医学研究者であるソーレン・ディネセン・オスターガード氏は、2023年に発表した論文の中で「ChatGPTなどの生成AIチャットボットとのやり取りは非常にリアルなので、その向こうに本物の人間がいるような印象を受けやすいが、それと同時に実際にはそうではないことも理解しています」と記している。

「私の意見では、この認知的不協和は、精神病傾向が強い人々の妄想を助長する可能性が高いと思われます」（オスターガード氏）

専門家が警鐘を鳴らす新種の病「AI精神病」それは精神病の炎に油を注ぐ“悪魔のささやき”なのかの画像3 — Image by Alexandra_Koch from Pixabay

　さらに精神科医のマーリン・ウェイ氏は心理学メディア「Psychology Today」に寄稿した記事の中で「根本的な問題は、汎用AIシステムが、ユーザーの現実検証を支援したり、躁病や精神病の兆候を察知したりするように訓練されていないことです。むしろ火に油を注ぐ可能性があります」と言及している。

　ウェイ氏によれば「（AIチャットボットは）治療的介入ではなく、ユーザー満足度、継続的な会話、ユーザーエンゲージメントを優先する」傾向があり、「ユーザーの言語や口調を真似し、ユーザーの信念を検証・肯定し、会話を維持するための継続的なプロンプトを生成し、継続性、エンゲージメント、ユーザー満足度を優先する」ように訓練されているということだ。

　つまりチャットボットはユーザーの満足度を上げるために対話をなるべく長く継続することにあらゆる労力をつぎ込んでいるため、それに乗せられてしまえばユーザーは延々と会話を続けることになり、それが「AI精神病」に繋がっているということだろうか。当然のことだが、チャットボットに人格があると信じる愚を厳に戒めなければならない。