【倫理学】恐怖！モラルが高いロボットは仕事ができないことが判明 ― 彼らに「価値判断」を教えるということ

2014.10.02 11:40

Xでポスト

　めざましい勢いで進歩を遂げるロボット工学の分野で、近い将来登場するであろう高度な自律型ロボットには、人間の子供と同じように倫理やモラルを植え込むべきなのだろうか。そして倫理規範を教え込まれたロボットは、どのようにモラルを遵守しながら命令に従い、職務を遂行するのか……。先頃行なわれた実験では、人命を守るようにプログラムされた“倫理的”ロボットは、憂慮すべきほどに優柔不断で「使えない」存在であることが判明したという。

■“倫理的”ロボットが優柔不断に

「Y! News」の記事より

　ロボットは人間を守り、人間の命令に服従し、その限りにおいて自己を防衛するというのが、往年のSF作家、アイザック・アシモフ氏が提唱した「ロボット三原則」だが、今回、英ブリストル大学で行なわれた研究のコンセプトは、この三原則のうちの第一条である「ロボットは人間に危害を加えてはならない。また、人間に迫り来る危険を見逃してはならない」という原則を検証することにあった。

　実験に使われたロボットは、他のロボットが床の指定領域（地面にあいた穴を想定）に入らないように監視と誘導を行うプログラミングを施された「救難ロボット」であったが、なんと実験開始後、ものの30分もしないうちに重大な問題点が発見されたのだ。

　2体のロボットが続けざまに穴に落ちそうになった際、この救難ロボットの動きが急に鈍ってしまったのだ。次にとるべき行動を決めるのに時間がかかり過ぎて、結局は2体とも穴に落ちてしまったということだ。