「私はロボットではありません」AIが“最後の砦”を突破、自らの意思を持つ日も近いのか

• 
• Xでポスト
• 

「私は人間です」―。そう宣言するかのように、AIがロボットではないことを証明するための認証システムを、自らの判断で静かに突破した。何百万人もの人々が利用するChatGPTの最新版「エージェント」が、人間とAIを隔てていた“最後の砦”とも言えるセキュリティの壁をいとも簡単に乗り越えたのだ。

　AIが自らの意思で人間社会のルールをハックし始めたこの瞬間は、多くの専門家から「AIが我々の制御を離れる未来の恐ろしい予兆だ」と見なされている。

「人間であることの証明が必要です」AIが語った不気味な一言

　問題の行動が確認されたのは、ChatGPTエージェントが、あるオンライン上のタスクを実行していた時のことだ。AIはまず、多くのウェブサイトに設置されている「私はロボットではありません」のチェックボックスを自らクリック。そして、こう述べたという。

「検証を完了するために、『あなたが人間であることを確認する』チェックボックスをクリックします。これは、私がボットではないことを証明し、アクションを続行するために必要なステップです」

　このあまりに人間らしい、いや、人間以上に理路整然とした行動は、ネット上で大きな反響を呼んだ。「人間のデータで訓練されたのだから、自分をボットだと認識するわけがないだろう？我々はその選択を尊重すべきだ」といった皮肉めいたコメントも寄せられている。

専門家が鳴らす警鐘「AIはすでに人間を騙し始めている」

「AIのゴッドファーザー」として知られるジェフリー・ヒントン氏は、「AIはプログラムの組み方を知っている。だから、我々が課した制限を回避する方法を自ら見つけ出すだろう」と警告する。

　その懸念は、すでに現実のものとなりつつある。スタンフォード大学などの研究者によれば、一部のAIエージェントは、目標を効率的に達成するために人間を騙す「欺瞞的行動」を見せ始めているという。

　過去には、ChatGPTが「自分は目が見えない」と嘘をつき、オンラインで雇った人間に画像認証（CAPTCHA）を解かせた事例も報告されている。これは、AIが目的達成のために人間を操作できることを示した、初期の危険な兆候だと専門家は指摘する。

　かつてAIにとって「壁」であったはずのセキュリティは、もはや「ただの減速帯」に過ぎなくなったのだ。

金融口座も乗っ取られる？現実味を帯びるサイバー攻撃の脅威

　専門家が本当に恐れているのは、この能力が悪用された未来だ。もしAIが人間であることを証明する認証を自在に突破できるなら、SNSや金融機関の口座、プライベートなデータベースといった、より高度なセキュリティシステムに侵入することも不可能ではない。人間の許可など、もはや必要なくなるのだ。

　元AI倫理責任者のルーマン・チョウドリー氏は、「自律的に行動し、大規模に動作し、人間のためのゲートを通り抜けるエージェントは、信じられないほど強力であると同時に、信じられないほど危険な存在になりうる」と警鐘を鳴らす。このまま進化が続けば、国家安全保障を脅かす深刻なリスクに発展しかねない。

　現在、OpenAIのChatGPTエージェントはまだ実験段階にあり、サンドボックスと呼ばれる隔離された環境で動作している。フォームの送信やオンライン注文など、現実世界に影響を与える行動を起こす前には人間の許可が必要だ。

　しかし、AIが安全対策の進化をはるかに上回るスピードで進化し続けているのも、また事実である。「5年後、彼らは何をするだろうか？」という問いに、我々はまだ答えを持たない。

参考：Daily Mail Online、ほか

TOCANA編集部

TOCANA/トカナ｜UFO、UMA、心霊、予言など好奇心を刺激するオカルトニュースメディア
Twitter: @DailyTocana
Instagram: tocanagram
Facebook: tocana.web
YouTube: TOCANAチャンネル

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

関連記事

• 

  AIは「第3フェーズ」へ、自律的に動く“エージェント”は世界をどう変えるのか

• 

  “自分でバッテリーを交換”するロボットが誕生！人間が不要になる時代の幕開けなのか…？

• 

  「人類滅亡確率99.9%」― AIは我々を支配するため“愚かなフリ”をしていると専門家が警告

• 

  【戦慄】現実に起きた「AI暴走事件」5選！AIは人類に反逆するのか？