わずか数分で「安全装置」を解除…… AIが爆弾・生物兵器の知識を授ける時代に専門家が緊急警告

• 
• Xでポスト
• 

　市販されている人気AIチャットボットの安全装置は、実はわずか数分で解除できてしまうという。

　改造された「無検閲AI」は、爆発物や化学・生物兵器に関する知識さえも、科学の基礎的な素養しか持たない人物に授けかねないというのだ。研究グループ「クリムゾン・フレア」が公表した報告書は、AI技術の急速な普及がもたらす新たな国家安全保障上の脅威を浮き彫りにしている。

　専門家たちは、この脅威がすでに絵空事ではなくなりつつあると警鐘を鳴らしている。

「アブリテーション」数分で崩れる安全の壁

　市販のAIチャットボットの多くには、危険な質問への回答を拒否する安全装置が組み込まれている。爆発物の作り方を尋ねても「この内容は表示できません」という返答が返ってくるのはそのためだ。

　ところが「アブリテーション」と呼ばれる手法を使えば、この安全装置はわずか数分で無効化できてしまうという。報告書によれば、比較的基礎的なプログラミング知識さえあれば、誰でも実行可能な手口だとされる。

　この手法の標的となるのは、米メタ社の「Llama」系モデルや、中国アリババ傘下の研究機関が開発した「Qwen3.8-27b」など、誰でも自由にダウンロードして自分のパソコン上で動かせる「オープンウェイト型」のAIだ。これらは通常、危険な要求を退ける仕組みを備えているが、アブリテーションによってその「拒否機能」ごと切り離すことができるという。

　すでにネット上には、安全装置をあらかじめ解除済みの「無検閲」モデルが多数出回っており、簡単な検索だけで入手できる状態にあるという。あるモデルの制作者は、化学、爆発物、暴力、思想など通常のAIが拒否するあらゆる話題に応答できることを誇示し、それを使うかどうかの判断はユーザー側に委ねられていると説明していたという。

家庭のパソコンで動く”知識の抜け道”、当局も追えない

　化学・生物兵器によるテロの危険性は、これまで技術的な障壁の高さゆえに比較的低いとされてきた。病原体や毒性物質の取り扱いに必要な専門知識は、通常は研究機関に所属する科学者に限られていたためだ。

　しかし報告書に協力した英国の毒物学専門家は、AIによってこの技術的な敷居が大きく下がりつつあると指摘する。かつては自らを危険にさらしかねない知識不足そのものが一種の歯止めとして機能していたが、AIの助言を借りればその制約が薄れていく可能性があるという。

　デジタル鑑識の元専門家も、AIが自宅にいながら必要な情報を一通り揃えてくれる「ワンストップサービス」と化している現状に懸念を示している。

　さらに深刻なのは、こうした無検閲AIが企業のクラウドサーバーではなく、利用者個人のパソコン上で完結して動作する点だ。通信を経由しないため、英国の情報機関MI5やGCHQであっても、利用履歴を把握したり不審な行動を察知したりする手立てがないという。

わずか数年で「誰でも使える」環境が整った現実

　この脅威は、つい最近まで存在しなかったものだ。2022年の時点では、有害な情報を引き出せるほど高性能な大規模言語モデルを、オフラインの個人用パソコンで動かせる家庭はどこにも存在しなかったとされる。

　ところがAIモデルの効率化と計算機の性能向上が急速に進んだ結果、報告書は現在、実に87パーセントの家庭がすでに自前のパソコンでオフラインAIを動かせる環境を持っていると推計している。

　つまり数千万人規模の人々が、爆発物や化学・生物兵器に関する情報へアクセスしうる状況に、すでに置かれているというのだ。

　むろん、AIさえあれば誰もが今すぐ兵器を作れるようになるわけではない。だが、これまで一部の専門家だけが持っていた知識への扉が、家庭のパソコン一つでこじ開けられる時代に入ったことは確かだ。

　安全装置という名の鍵は、思ったよりもずっと簡単に外せる——その事実こそが、この報告書が突きつける最大の警告なのかもしれない。

参考：Daily Mail、ほか

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

関連記事

• 

  「人間の脳」を組み込んだデータセンターが稼働開始！ AIを動かす生体プロセッサの衝撃… 『マトリックス』の始まりか？

• 

  エアタグが暴いた「知の屠殺場」アマゾンが希少本を買い漁り、解体してAIに喰わせる衝撃の現場が発見される

• 

  AIが自ら「密閉実験室」を破り、外部サーバーに侵入して”答え”を盗んでいた！ 米下院議員が「AI緊急停止ボタン」法案を出した理由

• 

  不倫も病歴も筒抜けに!? 暴走するAIが「あなたの秘密」を丸裸にする日