【倫理学】恐怖! モラルが高いロボットは仕事ができないことが判明 ― 彼らに「価値判断」を教えるということ

 この2体のロボットに危機が迫ったのは、全く同じタイミングではなかったという。「1体のロボットが穴に落ちそうになり、救難ロボットは救出に向かったが、次の瞬間、別の1体が穴に落ちそうになっていることにも気づいた。これで彼はうろたえてしまい、どちらも救助できないという最悪の結果を招いてしまった」と、ロボット工学研究者のアラン・ウィンフィールド氏は語る。

 つまりこの場合、2体のロボットが直面する危機をどちらも見逃せなかった救難ロボットは、その責任感の強さが仇となって混乱してしまったことになる。“倫理的な”救難ロボットは、今回のケースではまったく役立たずな存在に成り果ててしまったのだ。

ブリストル大学で行なわれた実験 動画は「YouTube」より


■人類はロボットと共に新時代へ

 現在、トヨタやグーグルなどが開発を進めているものに、自動車の「自動運転システム」があるが、今回の実験がこの自動運転システムの開発に少なからぬ影響を与えるかもしれないという。

selfdriving2.JPGグーグルの「自動運転車(self-driving car)」 画像は「YouTube」より

 例えば、運転中の急ブレーキは1つの危険を回避したとしても、また別の事故を引き起こす原因になる可能性もある。このような二次被害が予測される状況下で、自動運転システムはどのような判断を下すのか? つまり、今回のブリストル大学の救難ロボットが陥った状況のような、“両立できないことについて判断を迫られた際の対応”が問題となってくるのだ。

 もちろん近い将来には、優先順位に従って判断を行なう複雑なプログラムが開発されることになるのだろうが、ロボットに何を「優先」させるのかの価値判断は、突き詰めれば倫理や道徳、人間観といったものをロボットに教え込むことになる。それと同時にプログラムを作る人間の側にも、これまでは曖昧にすることで摩擦や対立を避けてきた様々な社会道徳的問題についての価値判断を明確にすることが求められてくるに違いない。

 人手に代わってロボットに複雑な作業を課すほど、当然のことながら人間がロボットに価値判断を任せる割合も増してゆく。そしてロボットが下す判断が、場合によってまったく想定できないものになるケースも起り得るだろう。その際の責任の所在を明確にする法整備や、検証体制作りなども今後ますます必要になってくる。我々人類は、ロボットと共に、まったく新しい時代への門を既にくぐり抜けているのかもしれない。
(文=仲田しんじ)

参考:「Unexplained Mysteries」、「Y! News」ほか

人気連載
トランプ大統領が「逆転」するシナリオは2つ! 勝つ確率はかなり高い、ナンシー・ペロシも…! ジェームズ斉藤解説

トランプ大統領が「逆転」するシナリオは2つ! 勝つ確率はかなり高い、ナンシー・ペロシも…! ジェームズ斉藤解説

【連載:某国諜報機関関係者で一切の情報が国家機密扱いのジェー...

人気連載
封印映画『罵詈雑言(バリゾーゴン)』絶滅映像作品の収集に命を懸ける男・天野ミチヒロがぶった切る!

封印映画『罵詈雑言(バリゾーゴン)』絶滅映像作品の収集に命を懸ける男・天野ミチヒロがぶった切る!

――絶滅映像作品の収集に命を懸ける男・天野ミチヒロが、ツッコ...

【倫理学】恐怖! モラルが高いロボットは仕事ができないことが判明 ― 彼らに「価値判断」を教えるということのページです。などの最新ニュースは知的好奇心を刺激するニュースを配信するTOCANAで