「10万体のAI軍団」が人間の指揮なしで戦う —— 米国防総省DARPAが始動させた自律AI計画「DICE」の中身

未来の戦場を仕切るのは、司令部から全体を見下ろす「一体の全知の機械」ではないのかもしれない。
代わりに今アメリカで進もうとしているのは、無数のAIが自ら群れを成し、任務を分担し、混乱に適応しながら戦い続けるという構想だ。しかも仲間の一部が脱落しようが、「暴走」しようが、群れ全体は動き続けるという。
米国防総省の研究機関DARPA(国防高等研究計画局)が正式に立ち上げた新プログラム「DICE」——その最終段階では、10万体ものAIエージェントが同時に稼働する未来が見据えられている。
中央司令官を持たない「10万体の群れ」
DICEは「Decentralized Artificial Intelligence by Controlled Emergence(制御された創発による分散型人工知能)」の略。その狙いは、電子妨害や通信途絶が当たり前に起こる過酷な環境で、人間や中央AIが指示せずとも自律的に動くAI集団を作ることにある。
公開された募集要項によれば、DICEは36か月にわたる計画で、「分散化」「敵対的環境への堅牢性」「大規模テスト」の三段階に分けられている。
最終段階の目標数字は桁外れだ。最大10万体のAIエージェントが、共通の目的に向けて最大100万件ものメッセージをやり取りしながら協働する——そんなテストが構想されているのである。
「機械の速度で進む戦争」に人間は追いつけない
なぜDARPAは、これほど極端な分散型AIを求めるのか。研究者たちは募集要項で理由をはっきり述べている。未来の紛争は「機械の速度」で展開し、現在主流の中央集権的な指揮系統は、あまりに遅く、硬直的で、敵に読まれやすい——というのだ。超高速で変化する戦場では、AIの能力をその場で組み替えられる柔軟さこそが勝敗を左右するとされる。
背景にあるのは、今日のマルチエージェントAIの弱点だ。複数のAIを連携させるシステムの多くは、いまだに「中央のとりまとめ役(オーケストレーター)」に依存している。情報収集、分析、計画立案を分担しても、誰が何を担当するかは最終的に中央の司令塔が決めているのだ。
司令塔は「たった一つの弱点」になる
この方式は予測可能な作業ならうまく回る。しかし戦場では致命的な脆さになりかねない、とDARPAは主張する。
エージェントの数や役割が増えるほど、中央の司令塔は膨大な情報を抱え込み、やがてはAIの司令塔ですら基盤モデルの処理限界に突き当たるという。
さらに軍事的には分かりやすい問題がある。中央の指揮ノードは「単一障害点」、つまりたった一つの弱点になる。通信が妨害されたり、司令塔が乗っ取られたりすれば、そのエラーはAI集団全体に伝播しかねない。電子戦やサイバー攻撃が「前提」となる未来の紛争では、この脆さは破滅的だ。DICEが目指すのは、司令塔を消し去り、群れそのものに判断を委ねることなのだ。

「暴走する仲間」がいても止まらない群れは何を意味するのか
DICE構想の中でとりわけ不気味な言葉が、DARPA自身が語る「一部のメンバーが脱落し、消失し、あるいは暴走しても動き続ける」という一節だろう。
裏を返せば、これは個々のAIが制御不能に陥る可能性を、あらかじめ織り込んで設計されるシステムだということだ。人間がボタン一つで全体を止められる仕組みではなく、群れが自律的に判断し、再編成する——その先で、人間はどこまで手綱を握っていられるのか。
もちろん、これは構想段階であり、10万体のAI軍団が実際に戦場を駆けると決まったわけではない。しかし、AIの自律化を「制御された創発」という言葉で押し進める動きが、世界最強の軍事研究機関から公式に立ち上がったことは確かだ。
SF映画が描いてきた「暴走するAI軍団」の悪夢は、もはや遠い空想とは言い切れない。
参考:The Debrief、ほか
※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。
関連記事
人気連載
“包帯だらけで笑いながら走り回るピエロ”を目撃した結果…【うえまつそうの連載:島流し奇譚】
現役の体育教師にしてありがながら、ベーシスト、そして怪談師の一面もあわせもつ、う...
2024.10.02 20:00心霊「10万体のAI軍団」が人間の指揮なしで戦う —— 米国防総省DARPAが始動させた自律AI計画「DICE」の中身のページです。DARPA、AIなどの最新ニュースは好奇心を刺激するオカルトニュースメディア、TOCANAで

