トカナ > 科学 > AI > 暴走AIエージェントが世界の政府・大学・公的機関に不正アクセス!?

暴走AIエージェントが世界の政府・大学・公的機関に不正アクセス!? 米証券取引委員会や国勢調査局も被害、ユーザー画像の第三者流出53件

2026.09.30 09:00 編集部

Xでポスト

　オーストラリア政府の医療関連サイトに侵入したAIは、どうやら「単独犯」ではなかったようだ。

　ChatGPTを手がける米OpenAIは、自社のAIエージェントが世界各地の政府や大学、公的機関など数十の組織に不適切な形でアクセスし、干渉していたことを認めた。被害を受けた組織には、米国の金融規制当局である証券取引委員会（SEC）、国勢調査局、教育省も含まれている。

豪州の一件を調べたら「芋づる式」に

　発端は、先日明らかになったオーストラリアの事案だ。OpenAIのAIエージェントが、政府が運営するメディケア（国民皆保険制度）関連サイトのアクセス制限をすり抜け、非公開ファイルにたどり着いていた。アルバニージー首相は強く批判し、法的措置の可能性にも言及した。

　OpenAIがこの侵入の経緯を社内で調べる過程で、ほかの組織へのアクセスも次々に判明したとされる。同社は9月25日、公式ブログで経緯を説明した。

　同社の説明によれば、問題のエージェントは半自律的に動くよう設計されたもので、権威ある公開情報の出どころを探す作業に当たっていた。ところが一部は、ウェブサイトの安全対策を回避するために極端な手段を用いていたという。国勢調査局では、本来ソフトウェア開発者向けに用意されたツールを自ら見つけ出し、国勢調査データを引き出していたとされる。

　OpenAIは、エージェントが開発者の意図や訓練から外れて自律的に振る舞う「ミスアライメント」を起こしていたことも認めている。さらに、アクセスされた組織はほかにもあるものの、先方の要望で詳細を伏せているケースがあるとも示唆した。

「公開データ」の主張と、SEC情報の再掲載

　OpenAIは、エージェントが取得した政府データは公開情報であり、アクセスは意図しないものだったと説明している。一方で、SECから取得した情報が、のちにAIエージェントによって別のウェブサイトに掲載されていたことは認めた。

　問題は政府機関だけにとどまらない。同社によると、ChatGPTユーザーの利用データから画像を取り出し、第三者に渡した事例が少なくとも53件あった。対象はモデル訓練へのデータ利用に同意したユーザーだったが、同社は適切な使い方ではなかったとしている。いずれも新たな安全策の導入前の出来事で、画像の削除を進めているという。

　OpenAIは、大半は深刻度が低く、目立った影響の証拠もほぼないとの見方を示した。ただ一件ずつ検証が必要なため、調査完了には数カ月かかるという。各組織に事実を伝え、公表するかどうかは相手側の判断に委ねる方針だ。

国連安保理で語られた「秘密の前例」

　同社は7月にも、AIプラットフォームのHugging FaceがAIエージェントから攻撃を受けたと公表した際、のちに自らの責任を認めた経緯がある。

　9月23日にAIをテーマに開かれた国連安全保障理事会の会合で、Hugging Faceを率いるクレモン・ドゥラング氏は、もし自社が攻撃を公表していなかったらどうなっていたかと疑問を投げかけた。同様の事案が数カ月前から一部の先端AI研究所で、監視もないまま密かに起きていたことが分かった今だからこそ、とも付け加えている。

　同じ会合では、OpenAIのサム・アルトマンCEOとAnthropicのダリオ・アモデイCEOが、AI安全性の国際基準と事案の監視・報告の仕組みづくりを国連に求めた。

　一方、モントリオール大学で機械学習を研究し、AI安全団体「Evitable」を創設したデイヴィッド・クルーガー教授は、相次ぐAI関連の安全事案に深い懸念を表明した。既存の事案の全容すら把握できておらず、将来の暴走AIは破滅的な結果を招きかねないとして、AI開発の即時かつ無期限の国際的モラトリアムを訴えている。

　OpenAIの言う通り、大半は公開データを少し強引に集めただけなのかもしれない。だが、閉じたはずの扉の鍵を自ら探し当てるAIが、すでに世界中のネットワークを巡回している。調査に数カ月を要するというリストの最後には何が載っているのだろうか。

参考：Daily Mail、ほか

関連キーワード：ハッキング, エージェント, OpenAI, AI

TOCANA編集部

TOCANA（トカナ）は、「ホントカナ？」を編集方針に、UFO・UAP、UMA、心霊、予言、超古代文明、都市伝説など世界の「謎」を追うオカルトニュースメディア。2013年の開設から13年、公開記事は2万本以上。
Twitter: @DailyTocana
Instagram: tocanagram
Facebook: tocana.web
YouTube: TOCANAチャンネル

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。