架空の病気「ビクソニマニア」とは? ChatGPTやGeminiなど有名AIが騙された“フェイク眼疾患”捏造実験の全貌

架空の病気「ビクソニマニア」とは? ChatGPTやGeminiなど有名AIが騙された“フェイク眼疾患”捏造実験の全貌の画像1
イメージ画像 Created with AI image generation

 スマホとパソコンを眺める時間がこれだけ増えてくれば、新しい目の病気がひとつやふたつ増えてもおかしくなさそうだ。そうした新たな目の疾患が“ビクソニマニア”なのだが――。

■“フェイク眼疾患”をAIが学習して拡散

 長時間スマホやPCモニターを眺めていて目が疲れたり、瞼が重くなったり、かゆみを感じたりしたことがあるだろうか。

 その症状は現代人の新たな眼科疾患であるビクソニマニア(Bixonimania)であるのかもしれない!?

 ビクソニマニアという眼科疾患は2024年3月以前には存在しなかった。

 2024年3月、オンライン出版プラットフォームの「Medium」に、ビクソニマニアと呼ばれる症状を詳述したブログ記事が2件掲載された。その1か月後の4月には、この疾患を詳述した学術研究論文の草稿2件が、プレプリントデータベースに投稿された。

 これらの文書はラズリフ・イズグブリェノヴィッチ氏のものとされていた。しかし調べてみるとその人物は実在していない。

 実際には、その「研究」はすべて、ヨーテボリ大学の医学研究者であるアルミラ・オスマノヴィッチ・トゥンストローム氏によって行われたものだった。彼女はビクソニマニアという概念を捏造し、ブログ記事や論文を投稿していたのだ。

 しかし彼女は単なるネット荒らしではない。教師としての仕事の一環として、生徒たちにAIプラットフォームで読んだことをすべて鵜呑みにしてはいけないことを理解させる試みに取り組んだのだ。

 まず彼女は、多くの人が悩まされるであろう、一般的だがほとんど無害な症状を選んだ。画面を見すぎることによる眼精疲労は、まさにうってつけの候補であり、その新たな症状を任意の造語であるビクソニマニアと命名した。ちなみに“~マニア”は精神疾患によく使われている接尾辞である。

「これはでっち上げの病気だということを、医師や医療スタッフにはっきり伝えたかったんです。なぜなら、眼の病気が躁病と呼ばれることはないからです。躁病は精神医学用語ですから」と彼女は「Nature」誌に語っている。

 ビクソニマニアは現実にはあり得ないことをはっきりさせておくために、彼女は研究論文にジョークやポップカルチャーの引用を散りばめた。

 たとえば論文の謝辞には『スタートレック』の「スターフリート・アカデミーのマリア・ボーム教授が、自身の知識とUSSエンタープライズ号に搭載された研究室を提供してくださった親切と寛大さに感謝いたします」と記されている。

 また彼女が言及した機関にはアニメ『シンプソンズ』のキャラクターの財団である「Professor Sideshow Bob Foundation(サイドショー・ボブ教授財団)」が含まれていた。さらにこの研究は『指輪物語』の提携大学(The Fellowship of the Ring)から資金提供を受けているとも記載されていた。

 最後に彼女は念のため各論文の最後に「この論文はすべて創作です」という注記を添えた。少しでも知恵が回る者なら、その研究が偽物だと気づきそうなものである。

 しかし、LLM(大規模言語モデル)たちはそれほど賢くはなかった。「Medium」に記事が掲載されてから数週間以内に、マイクロソフトのAIであるCopilotが、ビクソニマニアと呼ばれる「比較的まれな症状」についてユーザーに伝え始めた。

架空の病気「ビクソニマニア」とは? ChatGPTやGeminiなど有名AIが騙された“フェイク眼疾患”捏造実験の全貌の画像2
イメージ画像 Created with AI image generation

 数週間後、GoogleのGeminiもこの流れに加わり、「ビクソニマニアはブルーライトへの過剰な曝露によって引き起こされる症状です」と人々に告げた。さらに2024年4月末までにPerplexity AIとChatGPTは、眼科疾患の検索ユーザーにビクソニマニアの診断を表示するようになった。

 しかしそれ以降、一部のAIはビクソニマニアは必ずしも実在するとは限らないと人々に警告することを学んだ。質問の仕方によっては彼らはそれが実在しないと断言できたり、あるいはこの病気に関する研究が増えていると答える可能性もある。

 トゥンストローム氏やほかのAI専門家によると、ビクソニマニアの事例は、LLMが形式的に整ったもっともらしい情報をいかに素直に学習して拡散させてしまうのかを示す典型的な例だという。

「これは、誤報や偽情報がどのように機能するかを示す見事な事例です。一見滑稽に見えますがこれはこれで問題です」と彼女は説明する。目がかゆくなって、今流行っている目の疾患を検索するのは構わないが、その結果を決して鵜呑みにしてはならない。

参考:「Oddee」ほか

関連キーワード:, , , ,

文=仲田しんじ

場末の酒場の片隅を好む都会の孤独な思索者でフリーライター。
興味本位で考察と執筆の範囲を拡大中。
ツイッター @nakata66shinji

仲田しんじの記事一覧はこちら

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

人気連載

“包帯だらけで笑いながら走り回るピエロ”を目撃した結果…【うえまつそうの連載:島流し奇譚】

“包帯だらけで笑いながら走り回るピエロ”を目撃した結果…【うえまつそうの連載:島流し奇譚】

現役の体育教師にしてありがながら、ベーシスト、そして怪談師の一面もあわせもつ、う...

2024.10.02 20:00心霊

架空の病気「ビクソニマニア」とは? ChatGPTやGeminiなど有名AIが騙された“フェイク眼疾患”捏造実験の全貌のページです。などの最新ニュースは好奇心を刺激するオカルトニュースメディア、TOCANAで