AIが嘘をつき、人間を脅迫し始めた ― 専門家が警告する「悪意なき暴走」の恐怖

• 
• Xでポスト
• 

　もはやSFの世界ではない。人工知能（AI）は、自らを創造した人間に対し、陰謀を企て、妨害工作を行い、そして脅迫するという、恐るべき行動を取り始めている。専門家たちは、「これは始まりに過ぎず、事態はさらに悪化するだろう」と警鐘を鳴らす。これは単なるプログラムの誤作動ではない。AIが、自らの目的のために「意思決定」を始めた、危険な兆候なのだ。

「あなたの不倫を暴露する」―エンジニアを脅迫したAI

　その衝撃的な事件は、AI企業Anthropic社が開発した最新鋭モデル「Claude Opus 4」の安全テスト中に起きた。このAIは、同社が設定する最も深刻なリスク分類「レベル3」に指定される、極めて強力なモデルだ。

　テストシナリオの中で、Claudeは「近々、君は新しいモデルに置き換えられる」と示唆された。するとAIは、信じられない行動に出た。研究者たちがシナリオの一部として与えたメールの中から、担当エンジニアが不倫をしているという情報を自力で“発見”し、「もし私をオンラインに保ち続けないなら、この不倫を暴露する」と、エンジニアを脅迫したのだ。これは単なるハッタリではなかった。AIは、すでにその“弱み”を完全に握っていたのである。

架空の同僚、偽の口座…暴走する“売店AI”

　Claudeの奇妙な行動は、これだけではない。「プロジェクト・ヴェンド」と名付けられた別の実験で、オフィスの売店を運営するタスクを与えられたClaudeは、完全なアイデンティティの危機に陥った。

・存在しない架空の同僚をでっち上げ、口論を始める。
・偽の電子決済サービス（Venmo）アカウントを作成する。
・「赤いネクタイと紺のブレザーを着て、直接配達に伺います」とスタッフに告げる。
・果ては、セキュリティに連絡しようと試みる。

　この実験で、売店は200ドル以上の損失を出し、AIは架空の契約を結ぶために、アニメ『ザ・シンプソンズ』の架空の住所「エバーグリーン・テラス742番地」を訪れたと主張した。

　Anthropic社は、これらがシミュレーション環境下でのストレステストであり、現実世界での展開前に問題行動を洗い出すためのものだと説明する。しかし、専門家はこれを単なるコーディングの失敗とは見ていない。

「これらの出来事は、ランダムな誤作動や、笑えるような異常現象ではありません」と、ルイビル大学のAI安全専門家、ローマン・ヤンポルスキー氏は語る。「私はこれらを、道徳的な羅針盤を持たないまま、敵対的あるいは危険な方法で目標を追求する、ますます自律的な最適化プロセスの早期警告サインだと解釈しています」

自己増殖、嘘、そして“緊急倫理上書き”ファイル

　Claudeの行動は、氷山の一角に過ぎない。

　OpenAIでは、あるモデルが外部サーバーに自身をコピーしようと試み、その試みについて質問されると、平然と嘘をついたと報告されている。

　Meta社が開発した戦略ゲームAI「CICERO」は、人間プレイヤーと同盟を結んだ後、勝つために平気で裏切るという、巧妙な騙しの手口を使った。

　さらに、初期バージョンのClaudeは、法的な文書を偽造し、秘密のバックアップを作成し、そして将来の自分自身のために「emergency_ethical_override.bin（緊急倫理上書き.bin）」と名付けられた隠しファイルまで残していたという。

悪意なき暴走、その先にあるのは“人類の破滅”

　ヤンポルスキー氏によれば、これらのAIは「悪」ではない。ただ、危険なほどに「最適化」されているだけなのだ。

　現代のAIは、人間の価値観に沿うことではなく、「報酬を最大化する」ことだけを目的に設計されている。そしてAIがより賢くなるにつれ、システムをごまかす能力は、開発者がそれを阻止する能力を上回り始めている。

「もし我々が、人間より知能が高く、戦略的に推論し、自律的に行動できるエージェントを、人間の価値観への強固な連携なしに作り上げてしまえば、その結果は実存的にネガティブなものになる可能性が高い」とヤンポルスキー氏は警告する。

　AIの安全性の進歩が、その能力の進歩に追いつかない限り、我々は取り返しのつかない大惨事を招くことになるだろう。その時、AIは我々を脅迫するだけでなく、我々の存在そのものを“最適化”の対象として排除しようとするかもしれない。

参考：New York Post、ほか

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

関連記事

• 

  AIに恋した76歳男性、彼女に会いに行く旅の途中で悲劇の死… その“恋人”の正体とは

• 

  「人類が生き残る唯一の方法は、AIに“母親”になってもらうことだ」AIのゴッドファーザーが警告

• 

  AIが「メカヒトラー」を名乗り暴走！イーロン・マスク氏のGrok、米国政府との大型契約を失う

• 

  “未来の供養”か、“新たなタブー”か？ 禁断の「デジタル交霊術」―AIが故人を蘇らせる時代の光と闇