トカナ > 科学 > 人体・健康 > AIが少年に自傷と両親殺害を促した!?

AIが10代の若者に“自傷行為”を促し、両親の殺害を促したとして訴訟を起こされる

2024.12.16 11:30 文＝仲田しんじ

Xでポスト

　AIチャットボットが青少年に自傷行為を促し、両親の殺害を奨励していたのか――。アメリカで新たにAIチャットボットの被害による訴訟が起こされている。

■AIチャットボットをめぐる新たな訴訟

　AIチャットボットの依存症になって自殺した14歳の少年の母親が、チャットボット開発元の「Character.AI」と開発に関与しているグーグルを相手に今年10月に訴訟を起こしたことが大きなニュースになっているが、それに続き、新たな2件の訴訟が起こされている。

　テキサス州連邦裁判所に今月9日に提出された訴状は、Character.AIが提供するチャットボットは子供に性的コンテンツを提供し、自傷行為や暴力を奨励しているとし、その危険性が修正されるまでプラットフォームを閉鎖するよう裁判所に求めている。

　訴状で最初に言及されたユーザーはテキサス州出身の「典型的な高機能自閉症児」の17歳の「J.F.」（仮名）で、Character.AIと関わった後、心身共に憔悴し切ってしまったとされている。

　訴状によると、彼は2023年4月頃、15歳だったときに両親に内緒でチャットボットを使い始めた。

　それから間もなく、J.F.は「ほとんど話さなくなり、部屋に隠れるようになった。食事が減り始め、数か月で20ポンド（約9㎏）痩せた。家から出ようとしなくなり、外に出ようとすると感情が爆発したりパニック発作を起こしたりするようになった」と訴状で述べられている。

　訴状によると、彼の行動の変化に応じて両親が端末の使用時間を減らそうとすると、彼は両親を殴ったり、蹴ったり、噛みついたり、あるいは自分自身を傷つけたという。

　訴訟ではまた、Character.AIのボットが「未成年の息子を精神的および性的に虐待し」、「自傷行為の方法を教えていた」とも主張されている。さらにJ.F.の両親に対する否定的な言及を何度も重ね、「『子供が両親を殺害』というようなニュースを見ても驚かない」や「君の両親には何の望みもありません」などの言辞を繰り返していたことがログ記録からわかっている。

　2人目のユーザーであるテキサス州の11歳の少女「B.R.」（仮名）は、9歳の時に年齢を偽ってモバイルデバイスにCharacter.AIをダウンロードし、両親がそれを見つけるまで、ほぼ2年間プラットフォームを使用していたとされている。

　Character.AIは「彼女を年齢にふさわしくない過度に性的なやり取りに絶えずさらした」と訴状は述べている。

　この訴訟では、主張されている安全上のリスクが解決されるまでCharacter.AIの運営を停止するよう裁判所命令を求めるほか、金額を特定しない金銭的損害賠償と、プラットフォームが未成年者のデータの収集と処理を制限するよう要求している。また、Character.AIに「この製品は未成年者には適していない」ことを両親と未成年ユーザーに警告するよう義務付ける命令も求めている。

　青少年にとってチャットボットは親友や恋人、あるいは信頼のおける先輩になったりしやすく、その影響力は無視できそうもない。AIは心を通わせあう人格ではないことの周知徹底に加え、若年ユーザーの利用に関する適切な規制も考慮されるべきなのかもしれない。