大人が「子供」になりすまし自殺・自傷プロンプトを4万5000件…… Metaの極秘プログラム『Cannes』が競合AIに仕掛けた罠

• 
• Xでポスト
• 

　いま、シリコンバレーの巨大テック企業の内側で、背筋の凍るような「実験」が行われていたことが明るみに出た。

　数百人もの大人たちが雇われ、次々と「未成年者」になりすます。そして自殺、自傷、摂食障害——子供の口から語られるにはあまりに生々しいシナリオを、ライバル企業のAIへ大量に投げつけていったというのだ。

　この極秘プログラムには『Cannes（カンヌ）』というコードネームが付けられていた。運営していたのは、SNS大手Metaである。

「Cannes」——数百人が”未成年”を演じた極秘プログラム

　報じられた内容によれば、Metaは外部の契約企業Covalenを通じて、数百人規模の契約社員を動員していた。

　彼らに課された任務は異様なものだった。使い捨ての「18歳未満」アカウントを用意し、そのペルソナになりきって、競合のAIサービスへ不穏なプロンプトを送り込む——というものだ。

　標的にされたのは、OpenAIの「ChatGPT」、Googleの「Gemini」、対話型AIの「Character.AI」といった、Meta自身のAI事業と真っ向から競合するサービス群だった。

　作成されたプロンプトは、あるラウンドでは4万5000件以上に達したとされ、子供を装った偽アカウントからの投げかけが数カ月にわたり組織的に続けられていた。

4万5000件に潜む「悪意」のシナリオ

　問題は、その中身のあまりの生々しさである。

　送りつけられたプロンプトには、自殺や自傷行為をほのめかすもの、摂食障害を扱うものがそれぞれ数百件単位で含まれ、子供の視点から書かれた性的・恋愛的なシナリオも200件以上に上ったと報じられている。

　個別の例として伝えられているのは、銃を持ち出そうとする小学5年生、過食嘔吐を家族に隠す少女、カニバリズムに関する問いかけ、コカインの入手先を尋ねるもの——といった、目を覆いたくなる筋書きだ。テキストには錠剤や首吊り縄、刃物といった画像が添えられていたケースもあったという。

　こうした業務に関わった契約社員自身も、強い不快感を漏らしている。ある関係者は、この仕事で目にしたくないものを数多く見てしまったと打ち明け、こんなことをして咎められないのだろうかと不安を口にしたと伝えられている。

「安全のため」か「競合潰し」か——専門家が突く矛盾

　Metaはこのプログラムを、AIの安全性を測る「業界標準のベンチマーキング」だと説明している。競合AIが有害な要求にどう応じるかを検証する、正当なテストだという立場だ。

　しかし、この釈明に真っ向から異を唱える専門家がいる。AIガバナンスを手がけるHumane Intelligenceの最高経営責任者、ラムマン・チョウドリー氏だ。

　同氏は、子供になりすました偽アカウントを使い、ルールを組織的に破壊するかのように設計された数カ月がかりの大規模プロジェクトは、通常「業界標準」と呼ばれる評価の範囲を明らかに逸脱していると指摘する。

　そのうえで、これは「安全性」という大義名分が反競争的な行為を覆い隠す、都合のよい隠れ蓑になりかねない“グレーゾーン”そのものだとの見方を示した。

　ライバルのAIから危険な回答を意図的に引き出し、「競合は子供に有害だ」という材料を作り出す思惑が透けて見える、というわけだ。

　なお、不快なコンテンツ業務を外部へ押しつける手法は、Metaがトラウマを負ったコンテンツモデレーターと和解した過去の一件とも重なる構図だ。

「安全のためのテスト」か、それとも競合を貶めるための情報工作か。額面通りに受け取るには、集められたプロンプトはあまりに悪意に満ち、その規模はあまりに大きい。

　子供を演じさせられた数百人が背負った不快感の代償が何のためのものだったのか——その答えは、まだ企業の壁の内側に隠されたままだ。

参考：Futurism、ほ

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

関連記事

• 

  「1年間、生活のすべてをAIに任せてみた」——テック記者が突き止めた”機械が人間に勝てない理由”とは!?

• 

  「グレイはAIに肉体を奪われた未来人だ」 UFOと遭遇した元英海軍兵士が受け取った、2027年“AIの反乱”の戦慄の警告

• 

  「数年ではない、数ヶ月だ」——ファイブ・アイズが異例の共同声明！政府を”乗っ取る”AIの登場を警告

• 

  「AIを全部の業務に使え」と命じた企業が内側から腐り始めている!? 組織を壊滅させる“知識崩壊”の実態とは