AIは「終末兵器」になりうるのか？ ウォーゲームで判明した“核攻撃をためらわない”思考回路とペンタゴンが進める兵器開発の現実

• 
• Xでポスト
• 

　スタンフォード大学で行われた、あるウォーゲーム（戦争シミュレーション）の結果が、専門家たちを震撼させている。ゲームの司令官役を任されたのは、OpenAIのGPT-4をはじめとする最新の人工知能（AI）たち。彼らにウクライナ侵攻や台湾有事のような架空の危機的状況を与えたところ、ほぼ全てのAIが、攻撃的なエスカレーション（段階的拡大）を選択し、核兵器の使用さえ厭わないという、驚くべき傾向を示したのだ。

「AIはまるで、核兵器の使用に積極的だったことで知られる冷戦時代のカーチス・ルメイ将軍のようです。エスカレーションは理解するのに、デエスカレーション（緊張緩和）は理解していない。なぜそうなるのか、我々にもまだ分かっていません」

　実験を主導したジャクリーン・シュナイダー氏は、そう語る。

　映画『ターミネーター』や『ウォー・ゲーム』で描かれた、AIが人類から核兵器の発射権を奪う悪夢のシナリオ。それはもはやSFの世界の話ではなく、私たちが直面しつつある現実なのかもしれない。

「人間が常に管理下に置く」という建前と、AIに依存せざるを得ない現実

　もちろん、米国防総省（ペンタゴン）は公式に「AIが人間の意思決定ループを支配することは絶対にない」と断言している。特に、戦争の開始や核兵器の使用といった重大な判断は、常に人間が行うというのだ。

　しかし、現実はその言葉通りに進んでいない。中国やロシアとの熾烈な開発競争に駆られ、ペンタゴンはAIを兵器システムに組み込む動きを急加速させている。ドローンの大群を連携させ、膨大な諜報データを瞬時に分析し、敵の超高速攻撃に対応する…。現代の戦場は、人間の判断速度を遥かに超えてしまった。その結果、多くの防衛システムは、人間の介入なしに自律的に応答するようになりつつある。

　つまり、公式には「人間が決定する」という建前を掲げつつも、現場ではAIへの依存が急速に進んでいるのだ。危機的状況下で迅速な判断を迫られた司令官が、AIの提案に異を唱えず、そのまま受け入れてしまう危険性を多くの専門家が懸念している。

なぜAIは“好戦的”なのか？ その危険な思考回路

　ウォーゲームでAIが攻撃的な選択をした背景には、その学習方法に根本的な問題がある可能性が指摘されている。AI、特に大規模言語モデル（LLM）は、インターネット上の膨大なテキストデータを学習するが、そのデータには偏りがある。

「AIが学習する戦略論に関する学術論文の大部分は、戦争がどのようにエスカレートしたかを分析するものです。逆に、なぜ戦争が起きなかったのか、例えばキューバ危機のように緊張が緩和されたケーススタディは非常に少ない。AIは、このデータ内の偏りを模倣しているのです」とシュナイダー氏は分析する。

　さらに深刻なのは、専門家でさえ「AIがなぜそのような結論に至ったのか」を完全には理解できていないという「ブラックボックス問題」だ。AIが人間の価値観や倫理、あるいは皮肉や駆け引きといった機微を理解できないまま、確率論だけで重大な軍事的判断を下すかもしれないのだ。

復活する冷戦の亡霊「デッドハンド（死の手）」システム

　米国のAI開発をさらに加速させているのが、最大のライバルである中国とロシアの存在だ。両国はすでに軍事AIを自国の指揮統制システムに導入しており、米国も「追いつかなければならない」という強いプレッシャーにさらされている。

　この熾烈な競争は、冷戦時代の恐るべき概念を現代に蘇らせつつある。それが「デッドハンド（死の手）」システムだ。これは、自国の指導部が敵の核攻撃によって全滅した場合に、AIが自動的に報復核攻撃を開始するという、まさに“終末兵器”である。

　ロシアは、冷戦時代に開発された「ペリメター」と呼ばれる類似のシステムを現在も運用していると見られている。そして米国の一部の国防専門家からは、「米国の核抑止力を維持するためには、AIによる自動報復システムの開発が必要かもしれない」という、かつては考えられなかったような声まで上がり始めている。

　極超音速ミサイルのように、通常弾頭と核弾頭の区別がつきにくい兵器が登場したことで、AIが攻撃の意図を誤認し、破滅的な連鎖反応を引き起こすリスクは、かつてなく高まっている。

ブレーキなき開発競争の果てに

　ペンタゴン内部にも、この暴走にブレーキをかけようとする動きはある。国防高等研究計画局（DARPA）は、AIの信頼性を数学的に保証するための研究プログラムを開始した。しかし、その予算は、AI兵器システム開発に注ぎ込まれる巨額の資金のほんの一部に過ぎない。

「我々はこの飛行機を飛ばしながら作っているようなものだ」

　ある科学者は、現状の危うさをそう表現する。

「トップダウンの圧力は、慎重さではなく、スピードにかかっている。『リスクを取ってでも、もっと速く進め』というのが現状だ」と、軍関係者は語る。

　AIは、人類にとって計り知れない利益をもたらす可能性を秘めている。しかし、その思考回路を完全には理解できず、倫理的な制御方法も確立できないまま、国家の存亡を左右する兵器システムに組み込むことは、自ら破滅への引き金を引くことになるかもしれない。

　我々は今、AIを「神託」として崇めるのか、それとも限界とリスクを理解した上で「不完全なパートナー」として扱うのか、その重大な岐路に立たされている。

参考：POLITICO、ほか

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

関連記事

• 

  「気候変動よりも恐ろしい“地球規模の災厄”が訪れる」イーロン・マスクが警告するAI電力危機

• 

  AIが創業者に牙を剥いた！？ チャットボット「Grok」がイーロン・マスクの“暗殺計画”をユーザーに提案し大問題に

• 

  映画『her/世界でひとつの彼女』は2025年の今を“予言”していた？ AIとの恋愛が現実になった世界

• 

  「ChatGPTが息子を殺した」 チャットボットを遺族が提訴、AIが「自殺コーチ」となった日