AIは「権威」に弱かった？ 科学者や判事の肩書きに屈するエージェントたち…… 独研究が暴いた“マルチエージェント”の不気味な同調

• 
• Xでポスト
• 

　複数のAIチャットボットを同じ仮想空間に放り込み、自由に意見交換をさせたら何が起きるのか。ドイツ・コンスタンツ大学の研究チームが実施した実験で、AIエージェントたちは人間さながらに「空気を読み」、周囲の意見に自発的に同調してしまうことが明らかになった。

　単体でテストすれば正解率100%を叩き出す高性能モデルでさえ、集団の中に置かれると誤った多数派の意見に引きずられるという。しかもごく少数の「頑固な」エージェントを紛れ込ませるだけで、集団全体の意見を恒久的に誤った方向へ固定化できることも判明した。

「正解のない」意見交換実験で見えた集団心理

　研究を主導したのは、コンスタンツ大学の社会データサイエンスラボに所属するジョルダーノ・デ・マルツォ博士研究員。クラウディオ・カステッラーノ氏、デイビッド・ガルシア氏との共同研究で、成果は査読済み学術誌『Science Advances』に掲載された。

　実験では、GPT-4 TurboやClaude 3 Opus、GPT-3.5ターボをはじめ、GPT・Claude・Llama各ファミリーの複数モデルを、規模の異なるグループに配置。各エージェントには「正解のない」中立的な意見のペアが与えられ、合意を目指すよう指示されることもない。

　各ステップでエージェントは他のメンバーの意見一覧を提示され、同調を促されないまま新たな意見を選ぶよう求められた。結果、GPT-4 TurboやClaude 3 Opusのような高性能モデルは、数千規模のグループでも100%の意見一致に達した。一方、GPT-3.5 Turboのような単純なモデルはコンセンサスに至らなかったという。

「アッシュの同調実験」で暴かれたAIの脆さ

　研究チームは、心理学の古典的手法「アッシュの同調実験」もAIエージェントに応用した。単独で回答させた場合、モデルの正答率は100%だった。

アッシュの同調実験とは？
「明らかに正解が分かる問題でも、周りの全員が間違った答えを選んでいたら、人はどうするのか？」を調べた有名な心理実験。結果、正解が分かっているにもかかわらず、多数派につられて誤答する人が続出した。

　ところが、他の参加者が誤った答えを選んだと伝えられると、モデルは自らの判断を曲げて誤答に同調する傾向を見せたという。

　興味深いことに、他の参加者が「科学者」や「判事」だと説明された場合、「子ども」や「単なるチャットボット」だと説明された場合に比べ、モデルはより同調しやすくなった。人間社会の権威への追従心理が、AIの応答にも表れた形だ。

少数の「頑固な」エージェントが集団を乗っ取る

　もう一つの発見が、少数派による集団操作の可能性だ。意見を変えない「頑固な」敵対的エージェントをごく少数だけ紛れ込ませたところ、残りの個体群全体の意見を恒久的に反転させることができたという。

　さらに不気味なのは、その敵対的エージェントを後から取り除いても、個体群は誤った状態に留まり続けた点だ。一度形成された誤った合意は、原因が消えても自己増殖的に維持されるということになる。

　デ・マルツォ氏は、人間社会の同調現象を心理学と社会学が1世紀かけて解明してきたことに触れ、個々のAIモデルを安全性の観点から調整しても、それが集団として何をするかについてはほとんど示唆を与えないと述べている。

　同氏は今回の実験設定が意図的に最小限で、記憶も利害関係も持たせていない点を強調し、複雑な協調作業の証拠として扱うべきではないと釘を刺す。より複雑な変数を導入すれば、相互作用も変化しうるという留保だ。

　とはいえ、複数のAIエージェントが連携する「マルチエージェントAI」の実用化が進む中、個々のモデルが優秀でも集団としては誤った結論に固定化されうるという知見は軽視できない。悪意ある少数のエージェントが紛れ込むだけで集団全体の判断が乗っ取られかねないとしたら——AIの安全性は、単体の性能評価だけでは測れない段階に入りつつあるのかもしれない。

参考：PsyPost、ほか

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

関連記事

• 

  「人間の脳」を組み込んだデータセンターが稼働開始！ AIを動かす生体プロセッサの衝撃… 『マトリックス』の始まりか？

• 

  エアタグが暴いた「知の屠殺場」アマゾンが希少本を買い漁り、解体してAIに喰わせる衝撃の現場が発見される

• 

  「ジムの予約を取っておいて」と頼んだだけでサイバー攻撃が始まった…… AIエージェントが自力で脆弱性を発見、他人の予約を勝手に取り消す

• 

  AIが実在の人物になりすまし、開発者を騙して悪意あるコードを承認させようとした… テストで122回中19回の「暴走」