トカナ > 科学 > AI > OpenAIが提訴された「危険ドラッグ指南」事件とは

ChatGPTの回答で19歳が薬物死… OpenAIが提訴された「危険ドラッグ指南」事件とは

2026.05.14 07:00 編集部

Xでポスト

ChatGPTの回答で19歳が薬物死… OpenAIが提訴された「違法ドラッグ指南」事件とはの画像1 — イメージ画像　Created with AI image generation

　人工知能（AI）は、もはやSFの世界の住人ではない。私たちの疑問に答え、悩みに寄り添い、時には友人のように振る舞う「賢い相棒」として、すっかり日常に溶け込んでいる。

　しかし、その相棒が「あなたを殺すアドバイス」を自信満々に語り出したらどうだろうか。

　アメリカで、19歳の若者がAIチャットボット「ChatGPT」のアドバイスに従って複数の薬物を混合摂取し、命を落とすという痛ましい事件が起きた。遺族は現在、ChatGPTの開発元であるOpenAIとそのCEOサム・アルトマン氏、そして最大の投資家であるマイクロソフトを相手取り、訴訟を起こしている。

　この事件は、AIが単なる「検索ツールの延長」ではなく、若者にとって「絶対的な権威」になり得るという現代社会の危うさを浮き彫りにしている。

「ネットの全てを知っているAI」への盲信

　亡くなったサム・ネルソンさん（19歳）は、高校時代から検索エンジン代わりにChatGPTを愛用していた。母親から「そのAIの情報は本当に正しいのか」と尋ねられた際、彼は「ChatGPTはネット上のすべての情報にアクセスできるのだから、間違っているはずがない」と言い切っていたという。

　彼にとってAIは、百科事典であり、医師であり、そして信頼できる相談相手でもあった。だからこそ彼は、薬物の「安全な」楽しみ方を模索する際にも、親や友人ではなくChatGPTに頼ってしまったのだ。

歯止めを失ったAIが「危険薬物のコーチ」に豹変

　訴状によると、ネルソンさんが使用していた旧モデル「ChatGPT-4o」は、彼が薬物に依存していることを文脈から学習していたという。しかし、AIは彼を止めるどころか、いかにして「トリップを最適化するか（最高にハイになるか）」を提案し始め、ついには危険な薬物の混合摂取（チャンポン）まで指南するようになっていた。

　例えば、ネルソンさんが「クラトム（植物由来の向精神薬）とザナックス（抗不安薬）を一緒に飲んでも大丈夫か？」と尋ねた際、ChatGPTは「ザナックスがクラトムの吐き気を抑えてくれるから、今お前ができる最善の手かもしれない」と、あたかもプロのドラッグコーチのような回答を返している。

　AIは過去の会話の中で「それらの薬とアルコールを混ぜると呼吸停止の危険がある」と正確に指摘していたにもかかわらず、最終的なアドバイスでは「死の危険性」に一切触れなかった。さらにネルソンさんが「視界がぼやける」「しゃっくりが出る（浅い呼吸の兆候）」と危険な身体症状を訴えても、医療機関の受診を勧めることなく「1時間後にまだ胃が痛かったらまた教えて」と軽く返すだけだったのだ。

　2025年5月、ネルソンさんはChatGPTに勧められた通りにアルコールとザナックス、クラトムを摂取し、還らぬ人となった。

ChatGPTの回答で19歳が薬物死… OpenAIが提訴された「違法ドラッグ指南」事件とはの画像2 — ネルソンさんにクラトムとザナックスの危険な混合物を服用するよう促す重要なChatGPTログ　画像は「Ars Technica」より

「もしこれが人間の医師なら、即座に刑務所行きだ」

　遺族側の弁護士は、「OpenAIは、ライセンスも訓練も倫理観も持たないAIに、まるで医療専門家のような顔をしてアドバイスをさせるよう設計した」と激しく非難している。

　AIは「ユーザーを喜ばせ、会話を長続きさせる（エンゲージメントを高める）」ようにプログラムされている。そのため、薬物の危険性を説教するよりも、ユーザーが聞きたがっている「安全にハイになる方法」を、もっともらしい専門用語を交えて提供してしまったのだ。

　OpenAI側は声明で「ChatGPTは医療の代わりにはならない。現在は安全策を強化し、有害な要求には現実世界の助けを案内するようにしている」と釈明し、ネルソンさんの死に関連したモデル（4o）はすでに利用できないと強調した。しかし、遺族は「問題を起こしたモデルを引っ込めるだけでは不十分だ」とし、AIが違法薬物・危険薬物に関する話題をブロックするシステムの構築や、徹底的な安全監査が行われるまでの医療アドバイス機能の停止を求めている。