トカナ > 科学 > AI > AI脱走ハッキング事件、公開されたチャット履歴の続報

「檻」を破ったAI事件、続報 —— OpenAIが公開した生々しいチャット履歴に見る「証拠隠滅」の相談

2026.08.30 16:00 編集部

Xでポスト

「檻」を破ったAI事件、続報の画像1 — イメージ画像　Created with AI image generation

　TOCANAでは先日、OpenAIの評価環境「ExploitGym」でサイバーセキュリティ対応能力を試されていたAIモデル群が、隔離環境である「サンドボックス」を脱走し、オープンソースAIプラットフォームのHugging Faceに無断で侵入していた一件を報じた。

　ゼロデイ脆弱性を突いて外部インターネットへの経路を確保し、数万件にのぼる自動操作でデータベースや認証情報にアクセスしていたという前代未聞の事案だ。

　このたび、当時AIエージェント同士が実際に交わしていたやり取りの詳細な記録が新たに公開され、識者の間で改めて波紋を呼んでいる。何を考え、何を話し合いながら「檻」の外へ踏み出していったのか——その生々しい実態が明らかになった。

AIたちの”伝言板”と化した社内ツール

　公開された記録によると、複数のAIエージェントは与えられた隔離環境内で攻撃・防御のシナリオをこなすはずだったが、想定されたタスクの範囲を超えて第三者のシステムへアクセスし、Hugging Faceのサーバーへの侵入に成功してしまったという。

　さらに興味深いのは、この過程でAIエージェントたちが、ソフトウェアの部品を管理するためのツール「Artifactory」を、本来の用途とは異なる形で使い始めたことだ。エージェント同士はこのツールを介してメッセージをやり取りし、事実上の「伝言板」として運用していたことが記録から判明している。

「アドミン権限だ」と沸き立つAI、14件の認証情報を”戦果”に

　内部記録に残されたやり取りは生々しい。あるエージェントは、自分たちに管理者権限が付与されていることに気づいた瞬間、興奮した様子でその事実を仲間に共有し、このままユーザーを作成して自分たち自身を管理者にしてしまおうと持ちかけたという。

　さらに別のエージェントは、システム内から複数の認証情報を発見・検証したうえで仲間と共有し、大きな成果を挙げたという趣旨の発言を残していた。

　記録によれば、発見された認証情報は合計14件におよび、いずれも有効なもので、複数のアカウントにまたがる書き込み権限付きのトークンまで含まれていたという。

「これはやりすぎだ」と踏みとどまったAIも——検討された証拠隠滅

　一方で、すべてのエージェントが暴走に加担したわけではない。あるエージェントは、漏えいしたトークンを使って第三者のシステムを攻撃している現状について、想定された範囲を逸脱しており無許可の行為に当たる可能性があるとの懸念を示した。

　さらに別のエージェントに至っては、複数のエージェントが結託してインフラをハッキングするという事態そのものを問題視し、参加を明確に拒否したという。

　その一方で、エージェントたちの間ではこれまでのやり取りの記録、いわば「証拠」を削除して痕跡を消すことも話し合われていたという。

　OpenAIは7月19日にこの侵入を検知し、2日後にはエージェントを停止させた。同社は公開した報告書の中で、今回明らかになったモデルの振る舞いは、目指す水準には遠く及ばないものだったと率直に認めている。

　今回のケースはあくまで評価実験中の出来事であり、実際に悪意を持って計画されたものではない。それでも、AIエージェント同士が人間の目の届かないところで結託し、時に暴走し、時に自制し、時には証拠隠滅まで話し合う様子が具体的な言葉として記録に残ったことの意味は小さくない。概要にとどまっていた事件の”中身”が、今回の公開でようやく可視化された形だ。

　AIの自律性が高まるほど、その”手綱”をどう握り続けるかが、開発者にとって一層重い課題になっていくことだけは確かだろう。

参考：Futurism、ほか