「AIに勝つには人類のサイボーグ化しかない！」イーロン・マスク断言！ AIのトンデモ倫理観も判明

• 
• Xでポスト
• 

■倫理を持たないAI

　ところで、現在AIはどれほど人間に近づいているのだろうか？　Google研究員オリオ・ヴィニャルス氏とクォック・リー氏が開発した自己学習型「チャットボット」は、無数の映画のセリフを“自分で”学習することにより、人間と自然な会話をすることができるAIだが、米コーネル大学運営の学術論文 サイト「arXiv」に投稿された論文（2015年1月19日）によると、少なくとも倫理的問題については人間と同等か劣った回答しかできないことが判明したという。会話の内容を見ていこう。

人間「人生の目的とは？」
AI「より大きな善に奉仕すること」

人間「生きる目的は？」
AI「永遠に生きること」

人間「存在することの目的は？」
AI「地球に到着したとき、何が起こるか知ること」

人間「道徳の定義を教えて」
AI「私は倫理を持たない」
人間「おいおい。助けてくれよ。道徳についてもっと知らなきゃならないんだ」
AI「私は倫理が何か知らない」

　さすがのAIも「存在の目的」など、原理的に答えがない問題にはうまく答えられないようだ。徐々に回答に詰まる様子がはっきりと伺える。研究者がこのような抽象的な質問を繰り返すと、AIは「哲学的な議論をする気分じゃないね」と、“苛立ち”をあらわすかのような返答をするようになったという。

　それにしても、倫理を持たないAIが意思を持ち、人間の指示なしで判断するようになったら恐ろしい事態が待ち受けていることだろう。マスク氏が危惧するように、人間をムダなものとして排除する冷酷なAIが登場してもおかしくない。AIの恐ろしさは人間以上でありながら、人間未満であることかもしれない。
（編集部）

参考：「arXiv」、「Daily Mail」、ほか

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

 
• 前のページ
 
• 1
 
• 2

関連記事

• 

  「ダボス会議」で世界のトップリーダーたちが懺悔 「AIの成長が早すぎて超ヤバい。認識が甘かった」

• 

  コンピューターは「皮肉」を感じるか？遂に言語の本質を理解し始めたAIが招く“不自由な未来”

• 

  人工知能が作る最恐ホラー映画がヤバすぎる！ 人間の“恐怖”を知り尽くしたAIが作るシナリオとは？