AIが「兵器エンジニア」の代役に!? Claudeを悪用した誘導ロケット開発、Anthropicが報告書で明かした手口と限界

文章を書き、プログラムを組むAI。その能力が、ミサイル開発の現場にまで入り込んでいたことが明らかになった。
対話型AI「Claude」を開発する米Anthropic社が、イエメン北部を拠点とするグループが同社のAIを使って誘導兵器の開発を進めていたと、自社の報告書で公表したのだ。本来なら専門の技術者が担うはずの作業を、AIが肩代わりしていたという。
報告書が明かした「3つの兵器開発プログラム」
Anthropicは9月に公表した報告書の中で、イエメン拠点の誘導兵器開発グループの活動を阻止したとする章を設けている。報道によれば、このグループはフーシ派とみられている。
報告書が挙げたのは、3つの開発プログラムだ。1つ目は、スマートフォン並みの汎用フライトコンピューターを搭載し、飛行の最終段階で目標を追尾する誘導ロケット。2つ目は、約2,400km(1,500マイル)超の射程を目標に掲げた多段式の弾道ミサイルである。
3つ目は「R2000」と呼ばれる多用途ミサイルで、その中には極超音速滑空体の派生型も含まれていたという。報道では、世界のロケット技術者の知識をAIが凝縮して提供し、グループがそれを引き出していた構図だと伝えられている。
人間の技術者に代わってAIが担った「誘導・航法・制御」
注目すべきは、AIが果たした役割の具体性だ。グループはプログラミング支援ツール「Claude Code」を、人間のソフトウェア技術者の代わりとして使い、飛翔体の進路を操り姿勢を安定させる誘導・航法・制御ソフトウェアの開発に充てていたという。
Claude Codeは位置推定ソフトウェアの作成、制御パラメーターの調整、ファームウェアのビルド工程の運用などを担っていたとされる。試験で狙いが外れた際には、精度を高めるための改良作業にも使われていたという。
報告書によれば、同社のセーフガードはグループの要求の多くを遮断したが、すべてを止めることはできなかった。
グループは様々な手法で安全策をすり抜けようとし、作業を複数のセッションに分割して進めていたという。1つ1つは無害に見える質問も、つなぎ合わせれば兵器開発の工程になる。AIの安全対策の難しさがそこにある。
試射は失敗、それでも残る「オフライン」の懸念
では、AIの助けを得た兵器は完成したのか。報告書は、グループが実戦で使える装置の配備に成功したという証拠はないとしている。誘導ロケットの試射は実施されたものの、失敗に終わったとみられる。
ただし、グループは試射からわずか数時間後にClaudeへ戻り、失敗の原因を突き止めようとしていたという。さらに報告書は、グループがClaudeや、工学計算環境のMATLABなどに頼らずに動くオフラインのシミュレーション・ツール群をすでに構築していた証拠もつかんだとしている。
AIの利用を遮断しても、得た知識やツールは手元に残るということだ。
なお、サウジアラビアでは最近、キング・ハーリド国際空港が2度の攻撃を受け、14人が死亡して空港が閉鎖に追い込まれた。この攻撃にClaudeのようなAIが関わっていたかどうかは明らかになっていない。
兵器開発には本来、長い訓練を積んだ技術者が欠かせず、人材こそが最大の壁だった。AIはその壁を対話ひとつで低くし得る。一方で今回の事例は、試射が失敗し多くの要求が遮断されたように、セーフガードが完璧ではないにせよ無力でもなかったことも示した。
AI開発企業が自社製品の悪用と、その防御の限界を自ら公表したことの意味は小さくない。知識を誰にでも開く技術は、知識を誰に渡すべきでないかという、人類がこれまで十分に向き合ってこなかった問いを突きつけている。
※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。
関連記事
人気連載
“包帯だらけで笑いながら走り回るピエロ”を目撃した結果…【うえまつそうの連載:島流し奇譚】
現役の体育教師にしてありがながら、ベーシスト、そして怪談師の一面もあわせもつ、う...
2024.10.02 20:00心霊AIが「兵器エンジニア」の代役に!? Claudeを悪用した誘導ロケット開発、Anthropicが報告書で明かした手口と限界のページです。ミサイル、フーシ派、AI、Claudeなどの最新ニュースは好奇心を刺激するオカルトニュースメディア、TOCANAで