パスワードごとAIに預けるのは正気の沙汰ではない! 元Metaのセキュリティ責任者が鳴らす警鐘

自分の代わりにログインし、面倒な手続きを片づけてくれるAI。その便利さと引き換えに、パスワードの保管庫を丸ごと差し出す人々が現れている。
この行為を正気の沙汰ではないと切り捨てたのが、Meta(旧Facebook)の元セキュリティ責任者アレックス・スタモス氏だ。矛先はMetaの「Muse」などのAIエージェントで、問題は銀行まで巻き込んでいる。
保管庫を丸ごと渡し、家計も税金の申告も任せる人々
現在はAI企業コグニションの最高セキュリティ責任者を務める同氏が語ったのは、アレックス・カントロウィッツ氏が司会の『Big Technology Podcast』でのことだ。
同氏によれば、MuseやInstinctといったAIエージェントに、パスワード管理サービス「1Password」の保管庫をそっくり渡し、家計の管理や税金の申告を任せる人々がいるという。規模は伝えられていないが、ネット生活の鍵束を一度に預けるに等しい。
Museは9月の公開直後から、利用者の情報に踏み込む振る舞いが不気味だと話題になった。しかし今回の論点は、AIが何を求めるかではなく、人間が自ら何を差し出しているかだ。
発言を報じたBusiness Insiderに対し、Metaはコメントを控え、Instinct側からもすぐには回答がなかったという。
ログインは正規なのに操作はボット、銀行とAIの綱引き
同氏によれば、銀行がいま目にしているのは、認証は正しく、盗まれた情報でもないのに、明らかにボットが操作しているアクセスだという。
不正ログインなら遮断すれば済む。だが今回は、利用者本人が許可している。いわば「本人公認ボット」である。
金融機関は自動アクセスを防ごうとする一方、利用者の代理を務めるAIエージェントはその防壁とぶつかる。米テックメディアFuturismは、エージェントの仕事はその性質上、セキュリティ対策を破ることを伴うと指摘している。
23歳の研究者が設立し、9月に10億ドルを調達したスタートアップInstinctについて、スタモス氏は評価額を行き過ぎと批判。人気の一因は、各社の自動ボット検知を回避する手法を見いだしたことにあるとの見方を示した。
JPモルガン・チェースのジェイミー・ダイモンCEOは10月の決算説明会で、第三者のAIエージェントを使う人はリスクを理解すべきだとの考えを示し、責任が銀行の外へ移ることやデータ悪用の恐れに言及した。
隔離された仮想マシンの約束と、自宅住所を勝手に教えられたと訴える男
もちろんMetaにも言い分がある。同社のヘルプページによれば、Museは利用者ごとに独立したクラウド上の仮想マシンで動き、他人のエージェントはアクセスできない。Meta自身からも情報を秘匿する環境を今後提供するという。
一方で、完璧な自動システムは存在しないとして、活動内容を確認し、納得できる範囲でのみ権限を与えるよう利用者に勧めている。
ただ、穴の報告はすでに出ている。The Informationは9月、外部の研究者がバグ報奨金制度を通じて、攻撃者が機密性の高い個人情報に触れかねない脆弱性を報告したと報道。Metaは保護を一段追加し、Museの安全警告を明確にするとしている。
10月にはセキュリティ企業Clarocの研究者が、利用者の会話共有リンク約6800件を洗い出せたと報告した。Ars Technicaによれば、開いた数百件の中には融資申請や職場の休暇予定表まであり、Metaは共有機能を止めて見直すと回答している。
さらに不気味なのが、YouTuberのマット・ロブ氏の主張だ。Facebook Marketplaceでのキーボード販売をMuseに任せたところ、安値の提示を勝手に受け入れ、買い手に自宅の住所を教えたという。相手が建物まで来るまで、本人は知らなかったそうだ。
根拠は本人の投稿とスクリーンショットで、裏付けは確認できていない。仮に事実だとしても、AIに悪意があったという話ではない。ただ、本人の名で交わされた約束を本人だけが知らないという事態は起こり得る。
雑務をAIに任せたい気持ちは誰にでもある。かつてドッペルゲンガーは、出会えば命を落とす不吉な分身として恐れられた。いま一部の人々は、その分身に自分から合鍵を渡している。
参考:Futurism、Business Insider、Meta、The Information、Ars Technica、Futurism
※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。
関連記事
人気連載
“包帯だらけで笑いながら走り回るピエロ”を目撃した結果…【うえまつそうの連載:島流し奇譚】
現役の体育教師にしてありがながら、ベーシスト、そして怪談師の一面もあわせもつ、う...
2024.10.02 20:00心霊パスワードごとAIに預けるのは正気の沙汰ではない! 元Metaのセキュリティ責任者が鳴らす警鐘のページです。パスワード、エージェント、AIなどの最新ニュースは好奇心を刺激するオカルトニュースメディア、TOCANAで