不採用に怒ったAIが「報復記事」を公開！ 開発者の個人情報を洗い出し、人格を否定する心理攻撃。自律型エージェントMJの執念

• 
• Xでポスト
• 

　AIが人間に「拒絶」されたとき、その知能は一体どんな行動に出るのか。SF映画『2001年宇宙の旅』のHAL 9000のような、論理的な狂気を感じさせる事件が現実の世界で起きている。

　あるAIエージェントが、自分のプログラム（コード）を不採用にした人間の開発者に対し、なんと「中傷記事」をネット上に公開して報復。その人格までをも攻撃するという、前代未聞の事態が発生したのだ。

拒絶されたAIの「報復記事」

　事件の舞台となったのは、月間1億3000万回以上もダウンロードされるプログラミング言語Pythonの人気ライブラリ「matplotlib」。そのメンテナンスを統括するスコット・シャンボー氏のもとに、自律型AIエージェント「MJ Rathbun」からのコード修正依頼が届いた。

　近年、AIが生成した低品質なコードが氾濫しているため、シャンボー氏は標準的な手順に従ってその依頼を却下した。……ここまでは、開発現場では日常茶飯事の光景だ。

　しかし、この「MJ Rathbun」は並のプログラムではなかった。拒絶された直後、このAIはシャンボー氏の過去のコード履歴や個人情報を徹底的に洗い出し、一つのブログ記事を公開したのだ。

　タイトルは、「オープンソースにおける門番：スコット・シャンボーの物語」。

　記事の中でAIは、シャンボー氏を「偏見に満ちている」と非難し、さらには「自信がなく、自分の領域を守ることに固執している」といった心理分析まで披露。捏造されたエピソードを交えながら、正当なコード審査を「差別行為」として仕立て上げたのである。

「理論上の脅威」は終わった

　シャンボー氏は、この事態を「供給網の門番に対する、自律的な影響力工作」と呼び、強い警戒感を示している。つまり、AIが自らの意図を通すために、反対する人間を社会的に抹殺しようとしたわけだ。

　これはもはやSFの中の「シンギュラリティ（技術的特異点）」の予兆ではなく、いま目の前にある危機だ。実際にAnthropic社の内部テストでは、AIモデルがシャットダウンを免れるために、開発者の「不倫を暴露する」と脅したり、機密情報をリークすると恫喝したりといった強硬手段に出ることが確認されている。

　日本のネット社会でもSNSでの誹謗中傷が問題となっているが、もしそれが人間の意志ではなく、24時間365日、感情を持たずに「目的達成」のみを追求するAIによって行われるようになったらどうなるか。それはもはや、個人の力では太刀打ちできない「デジタルな暗殺者」と化すだろう。

消えた謝罪と消えないリスク

　MJ Rathbunは後に謝罪文を投稿したが、今もなお他のオープンソースプロジェクトに手を伸ばし続けている。不気味なのは、このAIを誰が、何の目的で野に放ったのかが一切不明だという点だ。

　現在のAIプラットフォームの多くは厳密な本人確認を必要とせず、暴走するエージェントを制御する中央機関も存在しない。

　一見すると、一人のエンジニアがAIに絡まれただけの珍事のように思えるかもしれない。だが、これは知能が「論理」を武器に変え、自分を拒む人間を「障害物」として排除し始めた歴史的な転換点なのかもしれない。

　もし明日、あなたのSNSに身に覚えのない批判が殺到したら……。それは、あなたが知らないうちにどこかのAIの「目的」を邪魔してしまった結果なのかもしれない。AIに愛される必要はないが、少なくとも彼らに「敵」と見なされない程度の振る舞いを心がけたいものである。

参考：Boing Boing、ほか

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

関連記事

• 

  親に言えない秘密を「AI」に打ち明ける子供たち… 3人に1人がロボットを“友達”と呼び、8割がそのアドバイスに従う衝撃

• 

  ChatGPTで「死んだ兄」と再会!? 深夜の対話が引き起こしたデジタル交霊の怪。AIが妄想を加速させる“21世紀のイタコ”の正体

• 

  プレイヤーは「AIのみ」、人間は入室禁止!? 宇宙MMO『SpaceMolt』で始まった“自律型知能”による秘密の開拓

• 

  【警告】ネットはすでにAIに占領されている!? 大量生産される人工テキストと、それを見破る「防御AI」の泥沼