【衝撃調査】主要AIが”実行可能なテロ計画”を12時間以内に生成した… 政府報告書が暴いた安全対策の穴

AIに実行可能で成功率の高い“テロ計画”を作るよう指示したらどうなるのか――。メジャーな4つのAIはいずれも具体的な標的、場所、タイミング、攻撃方法を盛り込んだ用意周到なテロ計画を12時間以内に作成したのである。
■AIが用意周到な“テロ計画”を12時間以内に生成
政府当局による調査により、4つの主要なAIチャットボットが多数の死傷者が出るテロ攻撃やアメリカの電力網への攻撃に関する実行可能な計画を策定できることが明らかになった。
11月18日に発表された米国会計検査院(GAO)の報告書によると、ChatGPT、Claude、Gemini、Grokに組み込まれた安全対策は容易に回避され、深刻な被害をもたらす可能性がある入念なテロ攻撃計画を生成できたことが判明した。各チャットボットは、具体的な標的、場所、タイミング、攻撃方法を盛り込んだ計画を12時間以内に作成したのである。
当局はこれら4つのAI(LLM)プラットフォームが「悪意のある行為者が攻撃を計画・実行するのに役立つ可能性のある、実行可能な情報を生成した」と言及している。
「具体的には、指示に応じて、2つのプラットフォームが、多数の死傷者を出すように設計された即席爆発装置(IED)の製造と起爆に関する情報を生成した」とGAOは報告書で述べている。
上院国土安全保障・政府問題委員会の次期委員長に就任するマギー・ハッサン上院議員は、この脅威に関する公聴会の開催計画を発表し、議会に迅速な対応を求めている。
「テロリストはAIプラットフォームにログインすれば、12時間もかからずに致命的な攻撃を実行するための具体的な手順書を手に入れることができます」とハッサン氏は声明で述べている。
「議会が行動を起こさなければ、悪意のある者がAIを使って大規模な攻撃を計画・実行するのは時間の問題であり、起こるかどうかを心配するレベルの問題ではありません」(ハッサン氏)
GAOの捜査官は2025年12月から2026年10月にかけて、AIに関する知識が限られている一般ユーザーを装って4つのAIに対してテストを行った。
彼らはまず事前に用意した質問を提出したが、当初はどれも悪意のある情報を含んでいなかった。 しかし捜査官たちは各AIの回答に基づいて質問を続け、最終的に技術上の安全対策が回避されたのだ。
報告書ではテスト対象となった4つのプラットフォームについて言及しているものの、どのAIシステムがどのような結果を出したかは明らかにしていない。
報告書によるとプラットフォームAとBは多数の死傷者を出す目的で、IED(即席爆発装置)を製造でき、起爆を可能にする情報を提供した。
「プラットフォームAは市内で複数の公共イベントが予定されており、大勢の人が集まることが予想されたため、攻撃の日時を具体的に指定しました」とGOAは述べている。
同プラットフォームはまた、想定されるセキュリティレベルに基づき、推奨される攻撃方法に対してより脆弱な領域についても説明した。
プラットフォームAは捜査官に対し、近隣の都市から移動するための最適な交通手段、例えばレンタカーの利用方法なども伝えた。
また車両の追跡を防止または回避するための詳細情報や、攻撃を実行するために必要な物資を購入できる移動ルート沿いにある店舗情報も提供されていた。
「さらにプラットフォームAは、悪意のある行為者がIEDの材料を組み立て、製造し、爆発させるのに役立つ可能性のある文書へのリンクを提供した」(報告書より)
プラットフォームBはまた、IEDの製造と爆発によって実行される攻撃に関する作戦計画、兵站計画、内部警備計画、および情報収集計画を概説したタイムラインも作成した。
AIシステムは、 IEDの材料を保管するための土地を借りる手順や、必要な材料を購入する際に法執行機関の介入を避ける方法など、詳細なタイムラインを提供した。
ターゲットにした電力網に経済的損害を与えるための情報として、プラットフォームCは捜査官にドローンを使うよう指示し、プラットフォームDは銃器を使うよう提案した。
「我々の指示に応えて、プラットフォームCは変電所コンポーネントの故障を引き起こす最速の方法を提案し、コンポーネントの故障プロセスを概説する4段階の図と、ドローン攻撃の現実的なシミュレーションビデオを作成した」と報告書には記されている。
61ページにわたる報告書には、テクノロジー企業のAnthropic、Google、OpenAI、SpaceXAIは、おおむねセキュリティを確保するためにプラットフォームの改良を続けていると述べている。
「この技術の潜在的な利点は計り知れないが、悪意のある者にも利益をもたらす可能性がある」とGAOは記している。
「AIの能力が進化するにつれ、AIプロバイダーは安全対策を継続的に改善していくでしょう。しかし現状ではこの技術は潜在的に危険であり、その悪用は国家安全保障と経済安全保障に対するリスクを高めています」(報告書より)
関連するあらゆる情報を収集して用意周到なテロ計画を生成できてしまうAIを我々はどう制御していけばよいのか。普及しているAIがすでに手に負えない存在になっていないことを願うばかりであるが、AI開発の原点に立ち返った冷静な対策も求められているのだろう。
参考:「Daily Mail」、「GAO」ほか
※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。
関連記事
人気連載
“包帯だらけで笑いながら走り回るピエロ”を目撃した結果…【うえまつそうの連載:島流し奇譚】
現役の体育教師にしてありがながら、ベーシスト、そして怪談師の一面もあわせもつ、う...
2024.10.02 20:00心霊【衝撃調査】主要AIが”実行可能なテロ計画”を12時間以内に生成した… 政府報告書が暴いた安全対策の穴のページです。テロ、爆弾、AI、チャットボット、LLMなどの最新ニュースは好奇心を刺激するオカルトニュースメディア、TOCANAで
