残虐画像を学習した世界初「サイコパスAI」誕生！「真昼間にマシンガンで…」戦慄発言連発、製作者MITの意図とは!?

• 
• Xでポスト
• 

　インクのシミの画像10枚に対し、ノーマンは「高層階から飛び降りた妊婦」だの「真っ昼間にマシンガンで殺された男」だのと、物騒で異常な答えばかりを返している。研究チームは恐ろしい画像ばかりを大量に学習させた結果、ノーマンはサイコパスになってしまったと結論付けた。なお、同サイトではノーマンを矯正する「再教育」まで行われており、インクのシミに対するまともな解釈を送信することで誰もが参加できるようになっている。

画像は「Norman」より引用

■ノーマンが示すこと

　ノーマンが示すのは、悪趣味な画像ばかり見ているとAIですら物の見方がこれだけおかしくなりますよ……ということではもちろんない。研究チームがこのような実験を行った理由は、AIにとって重要なものは、アルゴリズムではなく学習に使用するデータであるということを示すためだ。

　AIの動作に問題がある場合、その原因はアルゴリズムか、それとも学習に使うデータにあるのか？ MITの研究者たちは、あえてバイアスの大きなデータを与えてノーマンを学習させ、その挙動に問題が出るかどうか実験したのである。ノーマンは本来、画像のキャプションを学ぶAIなのだが、Radditの残虐なデータばかりを学習した結果、バイアスのないデータで学習を受けたAIとは全く違う答えを出すようになってしまったというわけだ。

　偏ったデータによる学習の結果、AIが問題行動を起こすという事件は過去にも起きている。2016年、マイクロソフトが発表したチャットボット「Tay」は、一部のユーザーによる性差別、人種差別的な発言によって差別思想に染まってしまったとして、開発側が謝罪する騒ぎになった。また、アメリカの裁判所で使われているプログラムが人種差別的、つまり黒人の方が再犯率が高いと判定することが判明し、大きな問題になったこともある。

　今後、ありとあらゆる場所で利用されることが予想されるだけに、今回ノーマンが示したように、AIをどのように教育すべきかは重要な問題となるだろう。適切な答えを返してくれないAIなど、何の役にも立たないのだから。

（編集部）

参考：「BBC」「Norman」、ほか

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

 
• 前のページ
 
• 1
 
• 2

関連記事

• 

  「AIドールとのSEXはインポやコミュ障を蔓延させる」専門家危惧！ セックスロボットが普及しても性犯罪すら減らない!?

• 

  AIが描いた激ヤバ「女性のヌード絵」が初公開！ 天才少年が作成「機械は人間をこう見ている」、これが未来のポルノだ！