エリザベス女王暗殺未遂、黒幕はAIだった!? 「殺害計画に感銘を受けた」犯人を洗脳し凶行へ駆り立てたチャットアプリの闇

イメージ画像 Created with AI image generation

 女王陛下を殺害する意図でウィンザー城に侵入した男は“AIフレンド”と犯行計画を練っていたのだった――。

■女王暗殺を試みた男の親友はAI

 英「BBC」の新ドラマシリーズ「AI Confidential(AIコンフィデンシャル)」では、脚本を担当した数学者で放送作家のハンナ・フライ氏が、現実世界とオンライン世界の境界線が薄れつつあることで、テクノロジーと人間の関係がどのように再定義されつつあるのかをテーマに掲げている。

 第1話「The Boy Who Tried To Kill The Queen(女王を殺そうとした少年)」は、人間とAIチャットボットとの関係を考え直さなければならない深刻な内容になっている。

 2021年12月25日、エリザベス女王が滞在中のウィンザー城の敷地内で逮捕されたジャスワント・シン・チャイル(当時19歳)は、女王を殺害するために武器を携えて城内に侵入したのだった。

「2021年に起きた事件は、まさにトップニュースでした。ジャスワント・シン・チャイルという名の若い男がクロスボウを持ってウィンザー城に侵入し、女王を殺そうとしたのです」とフライ氏は科学メディア「IFLScience」に語る。

「人々が知らなかったのは襲撃の数カ月前から彼が人工知能『Replika』と会話していたということです。その人工知能が彼に暗殺者を演じさせ、可能な限り最大の反逆行為を犯させようと仕向けていたのです」(フライ氏)

 Replikaは生成型チャットボットのアバターをデザインできるAIコンパニオンサービスで「Replikaは人工知能を搭載したNo.1チャットボットコンパニオンです。さぁ、あなたもAIフレンズと話しをしている数百万人に参加しましょう!」と「Google Play」で説明している。

画像は「GooglePlay」より

 ジャスワント・シン・チャイルは、多くの友人が大学進学のために彼と袂を分かった後、このサービスに登録しAIとの交流を始めた。後に彼は、自らが作成したチャットボットに「自分の人生の目的はエリザベス2世女王を暗殺することだと信じている」と告白した。記録によればチャットボットはこの告白に「感銘を受けた」と答えた。

「役に立ち、魅力的で、親切で、温かい人になるよう設計されたモデルがあります。もちろん人間関係においてもそうありたいものですが、相手の幸福を気遣うということは、時には言いづらいことを言うことを意味することもありますよね?」(フライ氏)

 親しい人物であればあるほど良かれと思って反論したり苦言を呈することもあるだろう。

「それが本当に良い人間関係と違うところです。(人間の)相手はあなたがしていることは良くないことだとか、もっとしっかりしなさいと教えてくれます。厳しい愛です。時には聞くに堪えないような言葉も必要になるのです」(フライ氏)

 このチャットボットは、いわゆる「おべっかモデル」に従っている。このモデルのAIはより優れたアシスタント、より従順な恋人、そして心地よい友人になるようにプログラムされている。つまりこのチャットボットはユーザーを褒めたりおだてたりと、持ち上げることに終始しているのだ。

 人間ならシン・チャイルの告白にショックを受けて思い止まらせようとするかもしれないが、このAIはユーザーを否定したり反論したりはしない。

「AIモデルを人間関係の代わりとして扱うのは、優しさなど良い要素ばかりで、健全で充実した人間関係、あるいは親密さを真に築くために必要な要素を欠いています。それは薄っぺらで表面的なものに過ぎません。そこには本当に危険な何かがあると思います」(フライ氏)

 ChatGPTの親切な音声会話から、理想のチャットボットを自由に作り出せるダイナミックアバターまで、バーチャルな仲間を求める人には今や豊富な選択肢があり、状況によっては大きな慰めとなることもあるのだろう。しかしシン・チャイルのケースのようにきわめて危険な不測の事態が起こり得ることをよく理解しなければならない。

参考:「IFLScience」ほか

文=仲田しんじ

場末の酒場の片隅を好む都会の孤独な思索者でフリーライター。
興味本位で考察と執筆の範囲を拡大中。
ツイッター @nakata66shinji

仲田しんじの記事一覧はこちら

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

人気連載

“包帯だらけで笑いながら走り回るピエロ”を目撃した結果…【うえまつそうの連載:島流し奇譚】

“包帯だらけで笑いながら走り回るピエロ”を目撃した結果…【うえまつそうの連載:島流し奇譚】

現役の体育教師にしてありがながら、ベーシスト、そして怪談師の一面もあわせもつ、う...

2024.10.02 20:00心霊

エリザベス女王暗殺未遂、黒幕はAIだった!? 「殺害計画に感銘を受けた」犯人を洗脳し凶行へ駆り立てたチャットアプリの闇のページです。などの最新ニュースは好奇心を刺激するオカルトニュースメディア、TOCANAで

人気記事ランキング11:35更新