【戦慄】AIの”誤判定”ひとつで米中戦争が始まりかけていた… 作戦機は離陸済み、中止は発進の直前だった

• 
• Xでポスト
• 

　AIが間違った答えを出した、というだけでは済まない事態が今年春に起きていた。

　中東の海域で、米軍の作戦機はすでに空を飛び、兵士たちは船へ乗り込む準備を整えていた。標的は、その海を航行していた1隻の中国船である。

　ところが発進の直前、作戦の根拠となった情報そのものがAIによって作られた誤りだと判明する。複数の関係者がCNNに語ったところによれば、この一件はあと一歩で米中の戦争を始めかけていた。

チャットボットの分析が、積み荷を「核兵器部品」に書き換えた

　発端は、米特殊作戦部門の分析官がAIチャットボットを使い、中国船の積み荷リスト（マニフェスト）を読ませたことだった。

　AIが返してきた結論は、その船が核兵器開発計画に関わる部品を運んでいる、というものだった。だが関係者によれば、この判定は完全な誤りで、AIは実際に積まれていた物資を別のものと取り違えていた。

　問題はここで止まらなかった。分析官はさらにAIを使い、この誤った判定を正式な情報報告書の形に仕上げてしまう。そして報告書は軍内部に回覧された。

　報告書の体裁が整ってしまえば、機械が出した推測なのか人間が裏を取った事実なのか、受け取る側に区別はつかない。それは行動の根拠として扱われはじめた。

作戦機は離陸済み、中止判断は発進の直前だった

　報告が回った直後から、軍の計画担当者たちは中国船を阻止する作戦の立案に着手した。想定されていたのは船への乗り込み（臨検）で、任務のための航空機はすでに飛び立ち、兵士たちも準備段階に入っていたという。

　作戦が発動される寸前になって、当局者が情報評価をあらためて精査した。そこで初めて、この評価がAIの手を借りて作られたものだと判明する。誤認が確認され、作戦は止まった。

　関係者の一人は、この報告書を全くの虚偽だったと表現している。船への軍事行動は二つの超大国の衝突に発展しかねず、中国との戦争を始めかけたに等しい事態だったとの見方を示した。

　当時、米国はイランに対する海上封鎖を行っており、空母がホルムズ海峡付近の船舶の動きを監視していたと伝えられている。緊張が高まった海域で誤った情報にもとづく臨検が実行されていたら何が起きたかは、誰にも分からない。

　なお中国の習近平国家主席は、この一件が明らかになってから1週間足らずのうちにワシントンを訪れ、トランプ大統領との会談でAIや貿易、重要鉱物などを協議する予定とされている。

「人間が介在すれば安全」という前提は成立しているのか

　トランプ政権は連邦政府全体でAIの活用を進めており、なかでも国防機関は新しいツールを大量に取り込んできた。膨大な生の情報を分析して攻撃目標を選ぶ作業、補給の効率化、予算の調整にまでAIが使われているという。

　ヘグセス国防長官は軍でのAI導入を急ぐ立場を取ってきた人物で、今年1月に打ち出した構想では、官僚的な障壁を取り除いて実験と投資を集中させ、軍事AIで主導的な地位を確保する方針を掲げていた。

　一方で関係者からは懸念も出ている。標的選定へのAI活用が確実に加速しているにもかかわらず、「人間が判断の輪の中に入っていれば民間人の犠牲や味方への誤射を防げる」という前提について、実務的な指針が整っていないというのだ。

　今回使われたAIが国防機関内部のシステムだったのか、一般向けの商用サービスだったのかは明らかになっていない。元当局者の一人は、内部ツールと呼ばれるものの多くは商用製品の焼き直しにすぎないという趣旨の指摘をしている。

　ChatGPTのOpenAI、ClaudeのAnthropicは近く、安全性上のリスクを理由に、AI開発の減速が業界の利益になり得ると警告した。作る側が慎重さを呼びかける一方で、使う側は現場の判断の中枢にAIを組み込みつつある。

　今回の一件は、AIが誤った情報を生み出し、それを人間が行動に移すまでの距離が想像よりずっと短いことを示している。誤りに気づいたのは発進の直前だった。精査が数十分遅れていたら、我々が今読んでいるのは「中国船への臨検」という見出しのニュースだったかもしれない。

　もっとも、最後に止めたのは人間だった。機械が作り出した確信を、人間の疑いがぎりぎりで押し返した。その一点だけは、この不気味な話に残されたわずかな救いでもある。だが次も同じように、疑いを差し込む余裕が残されているとは限らない。

参考：Daily Mail、ほか

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

関連記事

• 

  AIが“生活費”を要求！？ 生後わずか12日のAIエージェントが教授に送りつけた″トークンを稼ぐための切実すぎるメール”

• 

  消したはずの子供の写真をAIが掘り起こした…！Meta公式AIの「不気味な質問」に母親が激怒

• 

  人類はAIを愛し、拝み、そして”生贄”を捧げるのか！？ Anthropic社内に囁かれる”Claude神格化”疑惑

• 

  ノストラダムスはAIによる終末を予言していた！？ 500年前の4行詩に記された”孤独な脳を持つ賢者”の正体とは