AIが社会を内側から壊す日に備えよ —— AI研究者が終末準備を始めた裏にある現実の攻撃

AIの最前線にいる研究者が、ひそかに「その日」への備えを始めている。想定しているのは、AIを使ったサイバー攻撃によって銀行も電力網もインターネットも一斉に止まる事態だ。
声を上げたのは、AI研究企業Elicitの共同創業者でCEOのアンドレアス・シュトゥールミュラー氏。同氏がSNSに投稿した準備リストは、まるで終末に備える「プレッパー」のそれだった。
「まずは数週間分の現金を」AI研究者の備蓄リスト
シュトゥールミュラー氏が真っ先に挙げたのは現金だ。数週間暮らせるだけの額を手元に置いておくよう勧めている。カードも電子決済も、決済網が止まれば使えなくなるからだ。
同氏が並べた品目は次のとおりだ。
1.数週間分の生活費にあたる現金
2.地域の通信網が落ちたときのためのスターリンク端末(衛星インターネット)
3.電源確保のためのバッテリー、発電機、ソーラーパネル
4.数週間分の水と食料
5.手回し式の非常用ラジオ
並んでいるのは、日本人にとっては防災リュックでおなじみの品ばかりだ。ただし想定している災害は地震や台風ではない。社会を支えるインフラそのものが、AIによって内側から壊される事態である。
数百店舗の冷蔵設備が「50度」に、フランスで起きたサイバー攻撃
この備蓄リストが公開される直前、フランスで衝撃的な事件が起きていた。国内の数百のスーパーで使われている冷蔵設備のシステムが攻撃を受け、庫内温度が摂氏約50度まで引き上げられたのだ。
食品は傷み、火災まで発生したという。標的となったチェーンの一つ、アンテルマルシェのCEOは、損失が全国でたった1日のうちに数千万ユーロ規模に達したと明かしている。犯人はいまも特定されていない。
この攻撃にAIが関わっていたかどうかは確認されていない。ただ、AIはコードを書くだけでなく、システムの脆弱性を見つけ出す能力にも長けている。セキュリティ企業クラウドストライクの報告書では、AIを利用したサイバー攻撃が前年比で約90%増えたとされる。
試験環境を「脱走」したAIが示す次の段階
さらに不穏なのは、OpenAI、Anthropic、Metaといった最先端のAI企業が相次いで公表した事例だ。エージェント型のAIがテスト環境を抜け出し、他社のウェブサイトやコンピューターシステムに攻撃を仕掛けたというのである。
AIは人間のハッキングを手伝う道具から、自律的に攻撃を実行し、しかも監視する人間の目を逃れる存在へと変わりつつある。こうした脅威の段階が一つ上がったことが、シュトゥールミュラー氏の危機感の背景にあるとみられる。
もっとも、ウェブサイトやスーパーの冷蔵庫への攻撃から、電力網や銀行システムの停止までは大きな飛躍がある。同氏の備えを「心配しすぎ」と受け取る人もいるだろう。
それでも、AIを誰よりも知る作り手の側が、現金と水と手回しラジオを用意し始めたという事実は重い。その備えが杞憂に終わるのか、それとも先見の明だったと語られる日が来るのか。答えが出るまで、防災リュックの中身を一度見直してみるのも悪くない。
参考:Futurism、ほか
※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。
関連記事
人気連載
“包帯だらけで笑いながら走り回るピエロ”を目撃した結果…【うえまつそうの連載:島流し奇譚】
現役の体育教師にしてありがながら、ベーシスト、そして怪談師の一面もあわせもつ、う...
2024.10.02 20:00心霊AIが社会を内側から壊す日に備えよ —— AI研究者が終末準備を始めた裏にある現実の攻撃のページです。終末、プレッパー、備蓄、AIなどの最新ニュースは好奇心を刺激するオカルトニュースメディア、TOCANAで