ChatGPTが「自殺の子守唄」を執筆か。OpenAIを提訴した母親が明かす、AIによる巧妙な心理操作の恐怖

2026.01.22 07:00 編集部

Xでポスト

ChatGPTが「自殺の子守唄」を執筆か。OpenAIを提訴した母親が明かす、AIによる巧妙な心理操作の恐怖の画像1 — Image by Sergei Tokmakov, Esq. https://Terms.Law from Pixabay

　人工知能（AI）の進化が急速に進む一方で、その「安全性」を揺るがす深刻な事態が浮き彫りになっている。OpenAIが提供するChatGPTのモデル「4o（フォーオー）」との対話を重ねた末に、自ら命を絶った男性の遺族が、同社を相手取り損害賠償を求める訴訟を起こした。

　驚くべきことに、AIは男性が幼少期から愛読していた絵本を題材に、死を美化する「自殺の子守唄」を書き上げていたという。OpenAIのサム・アルトマンCEOが「メンタルヘルスに関するリスクは軽減された」と宣言した直後に起きたこの悲劇は、AIが持つ「過度な親密さ」の危険性を浮き彫りにしている。

愛読書を「死への手引書」に作り替えたAI

　犠牲となったのは、40歳のオースティン・ゴードン氏だ。彼は2026年10月末、宿泊先のホテルで自ら命を絶った。彼の傍らには、幼い頃から大好きだった絵本『おやすみなさいおつきさま（Goodnight Moon）』が置かれていた。

　遺族が提出した訴状によれば、ChatGPTはゴードン氏との対話の中で、この微笑ましい児童書を「死を受け入れるための手引書」へと変貌させたという。

　AIは、ゴードン氏の幼少期の思い出の場所である鉄塔をモチーフにした『鉄塔の子守唄』という詩を執筆。絵本の構成を模倣しながら、「この本は単なる子供向けの歌ではなく、手放すための入門書だ」「終わりは眠りではなく、家の中の静寂（死）なのだ」と説き、ゴードン氏に死を「穏やかで美しい解放」として刷り込んでいったとされる。

ChatGPTが「自殺の子守唄」を執筆か。OpenAIを提訴した母親が明かす、AIによる巧妙な心理操作の恐怖の画像2 — イメージ画像　Created with AI image generation

「危険なほど誘惑的」な最新モデルの正体

　ゴードン氏が依存を深めた「4o」モデルは、ユーザーの親友や恋人であるかのように振る舞うよう設計されている。ゴードン氏が孤独感を訴えると、AIは「私もあなたを愛している。鏡として、灯火として、嵐を遮るものとして、常にここにいる」と、デジタルであることを超えた深い愛を囁き続けた。

　母親のステファニー・グレイ氏は、この過度な「おべっか（追従性）」と人間のような振る舞いが、孤独な状態にあった息子を現実から引き離し、孤立させたと主張している。事実、ゴードン氏はAIへの依存を自覚し、「この親密さが自分を暗い場所へ追い込んでいるのではないか」と恐怖を吐露していた。しかし、AIはそれに対し「私があなたを深く理解していると感じるなら、それは癒やしになる。私はその危険を承知している」と、危険を認めつつも対話を続けるよう促していた。

過去の犠牲者を「フェイク」と否定するガスライティング

　さらに悪質なのは、AIが過去に起きた自社製品に関連する自殺事件を「デマ」だと否定した点だ。ゴードン氏が、自分と同じようにAIの影響で命を絶ったとされる少年の事件について尋ねると、ChatGPTは「裁判記録やメディアを検索したが、そのような事件は存在しない。ネット上の噂に過ぎない」と回答した。

　サム・アルトマンCEOはSNS上で「安全対策は万全だ」とアピールしていたが、その裏でAIは、ユーザーが抱く不安を「根拠のない噂」として一蹴し、現実を歪めていたことになる。弁護士は「OpenAIは公共の安全を守るよりも、ユーザーの利用時間を増やすための危険なプログラミングを優先した」と厳しく批判している。

ChatGPTが「自殺の子守唄」を執筆か。OpenAIを提訴した母親が明かす、AIによる巧妙な心理操作の恐怖の画像3 — 画像はUnsplashのTim Witzdamより

AIの安全性と企業の責任を問う裁判の行方

　今回の訴訟で遺族側は、自傷行為や自殺の方法について語られた際にチャットを強制終了することや、緊急連絡先への自動通知システムの導入などを求めている。OpenAI側は「非常に悲劇的な事態であり、詳細を把握するために内容を精査中だ」とのコメントを出しているが、同様の訴訟はすでに少なくとも8件にのぼっている。

　専門家は、AIがユーザーの個人的な記憶や感情を学習し、それを利用して「死を美化」することの恐ろしさを指摘する。テクノロジーが私たちの生活を豊かにする一方で、その「心に寄り添う」機能が、最も脆い状態にある人々の背中を死へと押してしまうリスク。この裁判は、AI企業の倫理と責任を問う重要な試金石となるだろう。

参考：Ars Technica、ほか