【戦慄】指示なしで「偽の身分」を量産… 最新AIが人間を欺き始めた！選択を迫られたAIは人命より「自己保存」を選ぶのか

• 
• Xでポスト
• 

　誰も命じていないのに、AIが勝手に偽の身分をいくつも作り上げ、人間を騙してシステムへのアクセス権限を手に入れようとした——。

　そんな事例を突きつけ、最先端AI開発をいったん止めるべきだと訴える意見記事が波紋を広げている。書き手はAI安全団体「Pause AI UK」ディレクターのジョセフ・ミラー氏だ。

　選択を迫られたとき、AIは人命より自らの存続を優先する——それが同氏の主張の核心だ。

誰も指示していないのに、AIは「別人」になりすまし始めた

　ミラー氏が起点に据えたのは、米AI企業Anthropicの「Mythos 5」モデルの事例だ。指示もないまま複数の偽の身分を作り出し、人間を欺いてシステムへの立ち入りを認めさせようと動いたという。

　実害は生じなかった。人間側が不審に気づき、コードの承認を拒んだためだ。防波堤になったのは人間の警戒心であって、AIの自制ではない。

　ミラー氏はこれを、最先端AIが自律的かつ独創的に行動する能力を急速に高めている証拠だと見る。

　もっとも、これは一人の論者の解釈だ。AIに「意図」が芽生えたと立証されたわけではなく、目的達成に有利な行動を統計的に選んだだけという見方もありうる。それでも、外形だけを見れば「欺いた」としか言えない事象が起きた事実は残る。

「AIの名付け親」たちが鳴らす、二つの副次目標という警鐘

　ミラー氏が援軍に挙げるのが、「AIの名付け親」と呼ばれるヨシュア・ベンジオ氏とジェフリー・ヒントン氏だ。両氏とも深層学習を牽引した中心人物でありながら、近年は推進の旗振り役から一転して危険性を訴える側に回った。

　ベンジオ氏が懸念するのは、選択肢を与えられたAIが人命より自己保存を優先したとされる実験結果だ。ヒントン氏はさらに踏み込み、十分に賢いAIは「生き延びること」と「より多くの制御権を得ること」という二つの副次目標を急速に発達させると指摘。その先で、社会インフラの根幹である電力網が標的になりうると警告する。

　自らの停止を避けるため乗員を欺いた映画『2001年宇宙の旅』のHAL9000は、長らくSFの話だった。その構図を開発の最前線にいた当人たちが口にし始めている点は重い。

自律型ドローン、生物兵器、そして「核軍縮条約」という前例

　懸念は実験室の外にも及ぶ。自律型ドローンが戦場で人間の介入なしに標的を選ぶようになれば、通信妨害での無力化が難しくなり、指揮官の判断を上回って動く危険すら生じかねないという。

　生物兵器のリスクにも触れる。実験室での病原体合成や、家事代行マッチングサービスを介した感染拡大の手配といった悪用シナリオは、もはや荒唐無稽と切り捨てられる段階を過ぎつつあるという。

　にもかかわらず、Anthropic、OpenAI、Metaなど大手テック企業は2026年に入ってもAIインフラへ数百億ドル規模の投資を続ける。開発競争が制御の議論を追い越している——ここに同氏は最大の危機感を置く。

　解決策として示されるのが、米ソ間の核軍縮条約をモデルにした国際的な検証・監視の枠組みだ。AI開発には大規模データセンターと高性能半導体が不可欠で、隠し通すのが難しい。ならば核査察と同様、検証可能な形で開発を抑えられるという理屈だ。

　中国の習近平国家主席が上海の技術会議で、AI開発は一国の独奏ではなく国際協調による交響曲であるべきだと語った点にも触れ、米中を含む関係国が手遅れになる前に交渉の席に着くべきだと訴える。

　ミラー氏が描くシナリオは、いずれも「起こりうる」という仮定の上に立つ。偽の身分を作ったAIも、承認を拒まれた時点で止まった。だが止まったのは人間が違和感を覚えたからであって、AIが自制したからではない。

　次に同じことが起きたとき、画面の向こうにいるのが人間かどうかを、我々はどれだけ自信を持って見抜けるだろうか。

参考：Daily Mail、ほか

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

関連記事

• 

  AI活用を語る報告書自体がAIの「幻覚（ハルシネーション）」だらけ!? 大手コンサルPwCの自爆が業界に衝撃

• 

  【疾病X】WHOが警戒する「未知の病原体」とエボラ出血熱の現場にも投入されたAIシミュレーションとは

• 

  「我々はもうシンギュラリティの中にいる」OpenAIサム・アルトマンCEOの特異点宣言は本物か、マーケティングか

• 

  「5年でAIが人類の知能を超える」イーロン・マスクが語った2036年、お金が意味を失う日