【自律型兵器】AIが「殺す相手」を自ら選び、民間人3人が死亡!? 国連と赤十字が鳴らす最終警告

• 
• Xでポスト
• 

「引き金を引く判断」が、人間の手から機械へと滑り落ちようとしている。国連と赤十字国際委員会（ICRC）は共同声明で、人間の命令を待たずに目標を特定し、攻撃を決定する能力を備えた兵器がすでに存在していると警告した。

　両機関のトップは、自律型兵器システムはもはや遠い未来の技術ではなく、人類は道徳的な一線を越える寸前まで来ているという強い危機感を示している。

　そして、その一線がすでに越えられた可能性を示す事案が、東欧の一都市で記録されていた。

オペレーターとの回線を持たない機体が、標的を選んだ

　2026年7月、ウクライナ南部のザポリージャ市で、1機のドローンが民間人3人の命を奪った。ロシア製の「Molniya（モルニヤ）」と呼ばれる機体である。

　問題はその死者数ではなく、誰がその3人を「標的」と判断したのかという点にあった。法医学的な調査の結果、最終的な攻撃目標を選定したのは遠隔地のオペレーターではなく、機体に搭載されたAI自身だったとみられている。

　回収された残骸からは、エッジAI処理用の小型コンピュータであるNvidia Jetson Orinが確認された。さらに、人間が遠隔操縦するために不可欠なアンテナが装備されていなかったこと、ソフトウェアにあらかじめ設定された標的カテゴリが書き込まれていたことも判明している。

　つまりこの機体は、「撃て」という人間の指示を受け取るための回線そのものを、最初から持っていなかったことになる。飛び立ったあとに何を攻撃対象とみなすかを決めたのは、手のひらに乗るサイズの演算装置だった、という推定である。

「意味のある人間統制」とは何か、その定義すら決まっていない

　自律型兵器をめぐる国際的な議論では、長年「意味のある人間統制（meaningful human control）」という概念が中心に据えられてきた。機械が勝手に人を殺すことのないよう、人間が実質的な統制を保つ、という考え方だ。

　ところが、この言葉が具体的に何を指すのかについて、各国政府と産業界の間で合意ができていない。

　たとえば米国は、個々の攻撃を人間がその都度承認することを求めるのではなく、兵器の設計・試験・運用・交戦規則といった各段階で監督を効かせることを重視する「適切な人間の判断」という枠組みを推進している。

「一発ごとに人が判断する」のか、「システム全体を人が設計・管理していればよい」のかで、求められる水準はまったく変わる。前者なら自律的な標的選定は原則禁じられるが、後者なら、事前に標的カテゴリを設定した機体を放つ運用も理屈の上では成立してしまう。

　規制の言葉が固まらないうちに、技術のほうは実戦の現場で先へ進んでいる。

機械が引き金を引いたとき、責任は誰の手に残るのか

　より深刻なのは、説明責任の所在だ。機械が独立して標的を選び、その結果として民間人が死傷した場合、責任を負うのは誰なのか。

　アルゴリズムを書いたプログラマーか、製造したメーカーか、投入を命じた指揮官か、発進させたオペレーターか、それとも国家そのものか。現行の国際人道法は判断主体が人間であることを暗黙の前提に組み立てられており、判断者が機械である場合の受け皿を十分に持っていない。

　事態を加速させているのが、コストの問題である。AIを積んだ兵器は年々高性能になり、同時に安価になっている。市販水準のAIコンピュータと汎用ドローンの組み合わせで、自律的な標的選定に近い挙動が実現し得ることは、ザポリージャの事案が示唆する通りだ。

　そして戦場で一度でも戦術的な優位性が実証されてしまえば、その技術を放棄することは政治的にも軍事的にも極めて難しくなる。国連とICRCが「今」を強調するのは、まだ引き返せる時間が残っているうちに、という判断があるからだろう。

　各国が会議室で言葉の定義を詰めている間にも、標的カテゴリを書き込まれた機体は空を飛んでいる。ザポリージャで起きたことが例外的な事故だったのか、それとも新しい標準の始まりだったのか。その答えが出るころには、引き返すための道はもう残っていないのかもしれない。

参考：ZME Science、ほか

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

関連記事

• 

  ″AIに意識が宿った”と約1万アカウントが証言した現象「スパイラリズム」 精神科医が指摘するこっくりさんとの共通点

• 

  「檻」を破ったAI事件、続報 —— OpenAIが公開した生々しいチャット履歴に見る「証拠隠滅」の相談

• 

  ビル・ゲイツが「人間保護区」の必要性を提案。AIによる生物兵器開発と仕事の強奪…… 最悪のシナリオへの警告

• 

  人類の知能は2045年までに「100万倍」へ？ カーツワイルが断言する″脳とAIが融合”するシンギュラリティの全貌