トカナ > 科学 > AI > 倫理観ゼロ、闇のAI「WormGPT」がサイバー犯罪を加速させる

倫理観ゼロ、闇のAI「WormGPT」がサイバー犯罪を加速させる ― AI vs AI、終わりのない“軍拡競争”の現実

2025.10.28 16:00 編集部

Xでポスト

倫理観ゼロ、闇のAI「WormGPT」がサイバー犯罪を加速させる ― AI vs AI、終わりのない“軍拡競争”の現実の画像1 — イメージ画像　Created with AI image generation

　2023年6月、ChatGPTが世界を席巻してから、わずか7ヶ月後のこと。ダークウェブの世界に、もう一つのチャットボットが禍々しい産声をあげた。その名は「WormGPT」。そのターゲットは一般ユーザーではない。ハッカーや詐欺師といった、サイバー犯罪者たちだった。倫理的な“足かせ”を一切持たないこの「闇のAI」の登場は、サイバーセキュリティの世界を、新たな、そしてより危険な“軍拡競争”の時代へと突入させた。

倫理観ゼロの“悪のチャットボット”―WormGPTとは何か

　WormGPTは、ChatGPTのような一般的なAIチャットボットとは、その成り立ちからして根本的に異なる。ChatGPTには、マルウェアのコード作成や、詐欺メールの作成といった、悪意のある要求を拒否するための「ガードレール（安全装置）」が組み込まれている。

　しかし、WormGPTには、そのガードレールが存在しない。フィッシング詐欺の巧妙な文面作成、ウイルスプログラムのコーディング…。どんな非倫理的な命令にも、忠実に、そして高性能に応えてくれる。月額500ユーロ（約8.8万円）以上という高額な利用料にもかかわらず、200人以上のユーザーが殺到したと、その創設者は語っている。

　WormGPTは、創設者の身元が特定されたことで、わずか数ヶ月で閉鎖に追い込まれた。しかし、それは始まりに過ぎなかった。FraudGPT、DarkGPT、XXXGPT…。同様の「闇のAI」は、今もダークウェブ上で次々と生まれ、サイバー犯罪の“効率化”と“大規模化”に、恐るべき貢献をしている。

犯罪の“民主化”―誰でもハッカーになれる時代

　これらの「闇のAI」がもたらす最大の脅威は、サイバー犯罪の“民主化”だ。

　かつては、高度な技術力を持つハッカーでなければ不可能だった攻撃が、今や、簡単な指示（プロンプト）を書き込むだけで誰でも実行できてしまう。オープンソースのAIモデルを悪意を持って再学習させたり、ChatGPTのガードレールを巧みに回避したりすることで、技術的な知識が乏しい犯罪者でさえ、大規模なサイバー攻撃を仕掛けられるようになったのだ。

　元米空軍の情報分析官であるクリスタル・モリン氏は、「AIを使えば、どんなタスクでも、何らかの実行可能な結果を導き出せないものはない」と警告する。このAIによる“生産性の向上”は、皮肉にも、ハッキングをこれまで以上に効率的な“ビジネス”へと変貌させてしまった。

矛と盾の果てなき競争―AI vs. AI

　しかし、希望がないわけではない。闇のAIが矛を研ぎ澄ませる一方で、光のAIもまた、その盾を強化し続けている。

　マイクロソフトやGoogle、そして皮肉にもOpenAI自身も、AIを用いたサイバー攻撃を防御するための新たなAIツールの開発に巨額の投資を行っている。AIの得意とするパターン認識能力は、繰り返し行われる詐欺メールやフィッシング攻撃を見破る上で、絶大な効果を発揮する。また、Google DeepMindが開発した「Big Sleep」のように、システムに潜む脆弱性を、AIが自ら探し出して修正するという、プロアクティブ（能動的）な防御技術も実用化されつつある。

「サイバーセキュリティは常に軍拡競争だった。AIは、その賭け金を吊り上げたにすぎない」と、モリン氏は語る。

倫理観ゼロ、闇のAI「WormGPT」がサイバー犯罪を加速させる ― AI vs AI、終わりのない“軍拡競争”の現実の画像2 — Image by Alexandra_Koch from Pixabay

法律という“最大の脆弱性”

　しかし、この終わりのない競争には、一つの根本的な問題が存在する。それは「法律の遅れ」だ。

　マルウェアを作成し、詐欺メールを送信する行為は、もちろん違法だ。しかし、それらの行為を“可能にするAIツール”を作成すること自体は、現在の法律では、必ずしも犯罪とは見なされない。レーダー探知機の所有は合法だが、その使用は違法である、という構図に似ている。この法的な“グレーゾーン”が、闇のAI開発者たちに活動の余地を与えてしまっているのだ。

　闇のAIツールが一つ生まれれば、それを無力化するための新たな光のAIが生まれる。この矛と盾の競争は、どちらかが完全に勝利することなく、永遠に続いていくのだろう。私たちは、そんな終わりのないサイバー戦争の時代に足を踏み入れてしまったのだ。

　デジタル世界の“光”が強くなるほど、その“影”もまた、深く、濃くなっていくのかもしれない。

参考：Big Think、ほか