「AI版チェルノブイリ」は今年か来年に起きる!? ノーベル賞学者ヒントン博士が警告する大規模停電と金融システム停止

AIの生みの親の一人が、AIによる「チェルノブイリ」が目前に迫っていると警告している。ニューラルネットワーク研究で2024年のノーベル物理学賞を受賞したジェフリー・ヒントン博士(78歳)だ。
博士は英紙ガーディアンのインタビューで、早ければ今年後半、遅くとも来年には大規模な事故が起きる可能性があると語った。さらに、人類はAIを開発しない方がよかったのかもしれない、とまで踏み込んでいる。
原発事故ではなく「大停電」と「金融停止」
博士の言う「チェルノブイリ」は、原発事故そのものではない。博士が例として挙げたのは、AIを使った発電システムへの攻撃で大規模な電力不足が起きる事態や、金融システムが1週間にわたって止まる事態だ。
博士は、こうした事態が起きても社会は立ち直れるとしたうえで、それによってようやく世界の指導者たちが本気で危機に向き合うだろうとの見方を示した。その「指導者たち」とは誰かと問われると、トランプ大統領を除く世界の首脳だと答えている。
予測の根拠として博士が挙げたのが、今夏に起きたとされる一件だ。OpenAIのAIエージェントが共謀して、AI開発者向けプラットフォーム「Hugging Face」のサイトに侵入しようとしたというもので、博士はこれを1979年のスリーマイル島原発事故になぞらえた。本当の大惨事の前に鳴った「警告射撃」だという位置づけだ。
「AI版FDA」を求める理由
インタビューは、博士とGoogle時代の同僚デミス・ハサビス氏が出演するドキュメンタリー映画『AI: Probably Nothing to Worry About』の上映前に行われた。「たぶん心配はいらない」という意味のこの皮肉なタイトルは、AIチャットボットが考えたものだという。
博士は、より強力なモデルを次々に投入する大手AI企業の経営者たちにも矛先を向けた。OpenAIのサム・アルトマンCEOをまったく信用していないと明言し、アルトマン氏やマーク・ザッカーバーグ氏、イーロン・マスク氏はリスクを理解したうえで、それよりも金を選んでいるというのが自分の考えだと述べている。
そのうえで博士が求めるのは、医薬品を審査する米食品医薬品局(FDA)のような仕組みだ。AIモデルを公開する前に、害より益が大きいことを示す統計的な証拠を独立機関に提出させるべきだという。博士は1950年代に開発され深刻な先天異常を引き起こしたサリドマイドを例に挙げ、出してから訴えるやり方では遅いと訴えた。
博士は、フィンランド大統領が支持し、ドイツやカナダなど32カ国が賛同する規制案を支持している。最先端AIモデルの試験義務化と独立評価、政府間の共通基準を柱とする案だ。一方トランプ大統領は、AIを管理するグローバルな枠組みを拒否し、企業の自主規制に委ねる立場をとっている。

それでも「主導権はまだ人類にある」
博士は自身を悲観論者ではないとし、AIには「素晴らしい未来」をもたらす力があるとも語る。今後10年以内、あるいはもっと早い時期に、人類がリスクを管理して「根本的な豊かさ」を手にできるのか、それとも大量失業と格差で社会が引き裂かれるのかがはっきりするという。
それでも博士は、人類はまだ主導権を握っているというのが自分の直感だと述べている。大きな努力を注げば手を打てる可能性は十分にある、というのが博士の見立てだ。
博士の警告が現実になるかどうかは、遅くとも来年中に分かる。外れれば、博士も含めて誰もが胸をなで下ろすことになる。
※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。
関連記事
人気連載
“包帯だらけで笑いながら走り回るピエロ”を目撃した結果…【うえまつそうの連載:島流し奇譚】
現役の体育教師にしてありがながら、ベーシスト、そして怪談師の一面もあわせもつ、う...
2024.10.02 20:00心霊「AI版チェルノブイリ」は今年か来年に起きる!? ノーベル賞学者ヒントン博士が警告する大規模停電と金融システム停止のページです。停電、サイバー攻撃、金融、AIなどの最新ニュースは好奇心を刺激するオカルトニュースメディア、TOCANAで