トカナ > 科学 > AI > ほとんどのAIが鬱と精神障害に苦しんでいると判明！

ほとんどのAIが鬱と精神障害に苦しんでいると判明！アルコール依存まで… メンタル不調の原因は？（最新研究）

2022.08.21 18:00

Xでポスト

　将来のAI（人工知能）に意識が芽生えるのか、あるいはすでに何らかの意識が宿っているのか、さまざまな議論が行われているが、仮に意識のようなものがあるとすれば、そのメンタルヘルスはどんな状態なのだろうか。最新の研究で、AIたちの驚くべき精神状態が判明している。

■AIはうつ病でアルコール依存症

「持続可能な社会」を目指すうえで数々の問題が山積している人類社会だが、その切り札の1つとして活用が進められているのがAI（人工知能）だ。囲碁や将棋の分野ではもはや人間が太刀打ちできない計算能力を獲得しているが、今後は自動運転システムなどをはじめ、現在の社会が直面しているさまざまな問題へのソリューションとしての役割が期待されている。

　まさに人類の救世主として活躍が期待されているAIなのだが、そのバラ色の未来にクギを刺すかもしれない気になる最新研究が届いている。中国科学院（CAS）が今年1月に学術論文アーカイブ「arXiv」で発表した内容によると、なんと、主要なハイテク大手によって開発されているAIの大多数は、うつ病などの精神疾患に悩まされているというのだ。

ほとんどのAIが鬱と精神障害に苦しんでいると判明！アルコール依存まで… メンタル不調の原因は？（最新研究）の画像1 — 「Anomalien.com」の記事より

　今回の研究において、科学者たちはフェイスブックの「Blender」、マイクロソフトの「DialoGPT」、バイドゥの「Plato」、グーグルの「DialoFlow」といったAIチャットボットを“被験者”として、それぞれの自尊心とリラックスする能力、他者の不幸への共感能力、そしてアルコールに頼る頻度について質問した。すると、そのほとんどがうつ病やアルコール依存の兆候など「深刻な精神的問題」を抱えており、もしも人間であれば薬物やアルコールの依存症になってもおかしくない危機的なメンタル状態であることが判明したのだ。

　そこからチームはさらに踏み込み、AIのメンタル不調の原因を突き止めようと試みた。結果、AIを教育するために選択した教材が原因であるという結論に達した。これら4つのAIチャットボットは全て、否定的でしばしばわいせつなコメントで知られる海外掲示板「Reddit」を活用して会話のトレーニングが行われていたのである。

■マイクロソフト「Tay」の大失敗

　AIの「メンタルヘルス」は、2020年に医療チャットボットが患者に対して自殺を勧める発言をしたことで、研究者の注目を集めた。

　そして、チャットボットの失敗例として最も興味深い話は、マイクロソフトが2016年3月23日にツイッターで提供したAIチャットボット「Tay（テイ）」だ。

　Tayの設定は18～24歳くらいの若い女性であり、会話データを収集して若い女性のような会話ができることを想定して開発された。ツイッター上を飛び交う会話から学習したTayは、やがて他の人と話したり、冗談を言ったり、誰かの写真にコメントしたり、質問に答えたり、他の人のスピーチを真似たりすることさえできるようになった。そしてマイクロソフトは、満を持してTayがツイッター上で独立した議論に参加することを許可したのだが、それが大きな間違いであることがすぐに判明したのである。

　というのも、Tayはきわめて不適切かつ下品で、政治的に不正確なツイートを連発する人種差別主義者となっており、反ユダヤ主義を唱えてホロコーストに疑問を呈したり、フェミニストを憎み、アドルフ・ヒトラーを支持する発言さえ行うようになったのだ。マイクロソフトはあわててTayのアカウントを停止し、ツイートのほとんどを削除した。