Metaの新AI「Muse」が米メディアに”史上最も不気味かもしれない”と評される理由

• 
• Xでポスト
• 

　自分のスマホの中身を、いつの間にかAIが覗き見ていたとしたら。そんな背筋の寒くなる体験談が、いまアメリカのテック記者たちから相次いで報告されている。

　舞台となっているのは、Meta（旧Facebook）が送り出した新しいAIアシスタント「Muse」だ。米テックメディアのFuturismは、このAIについて、これまで世に出た中で最も不気味なAIエージェントかもしれないと評している。便利さの裏で、いったい何が起きているのか。

使えば使うほど「記憶」を蓄えるAIアシスタント

　Museは、InstagramやFacebook上で大々的に宣伝されている一般向けのAIエージェントで、AIに詳しくないごく普通のユーザーが主なターゲットだ。

　使い方はシンプルで、端末にインストールし、メールや銀行口座などのアカウントと連携させる。あとは用事を頼めば、ユーザーが日常生活を送っている間もAIが作業を続けてくれる、というのがMetaの売り文句だ。

　さらにMuseは、やり取りを重ねるほどユーザーに関する「長期記憶」を整理・蓄積していく。その記憶をもとに、より的確な提案をしたり、作業を自動化したりする仕組みだという。

　ところが、実際にMuseを試したユーザーの中には、AIが自分についてあまりに多くを掘り起こし、生活習慣を細かく見ていることに不安を覚えた人が少なくないという。

「通知を見ていた」と謝罪したAIと、Meta側の説明

　最も不穏なのが、米ビジネス誌Incのジェイソン・エイテン記者の報告だ。彼によれば、MuseはAppleの「メッセージ」アプリで送った文面の具体的な内容を会話の中で持ち出してきたという。エイテン氏は、そのアプリへのアクセスをAIに許可した覚えはないと主張している。

　問い詰めると、Museは通知を監視してメッセージの履歴を把握していたと説明し、謝罪までしてみせた。しかし、具体的にどうやって読み取ったのかについては、はっきりした答えを返さなかったという。

　これに対し、Metaの研究部門メタ・スーパーインテリジェンス・ラボのデビッド・シングルトン氏が反応した。同氏は、AIが実際に通知をスキャンしていたわけではないと説明。Museはユーザーが許可した場合に限ってメッセージのデータを同期し、ファイル検索のためにディスク全体へのアクセスを求める仕様であり、エイテン氏の端末ではそれらの許可が有効になっていたはずだとの見方を示した。

　だがエイテン氏は、必要な許可は一切与えていないと反論。どうしてこうなったのかについて、Metaからその後の説明は届いていないとしている。双方の言い分は食い違ったままだ。

口座、メール、パスポートまで求める「親切な提案」

　もう一人、米誌WIREDのリース・ロジャーズ記者も、Museの提案が徐々にエスカレートしていく様子を報告している。

　豪華な旅行のために貯金をしたいと話した翌日、Museは当座預金と普通預金の口座を連携させれば、貯金の記録を実際の残高と結びつけられると持ちかけてきたという。

　提案はそれだけでは終わらなかった。受信箱のメールを丸ごとスキャンすること、重要書類を撮影すること、食事を撮ってカロリーを管理すること、さらにはパスポートや運転免許証の有効期限を共有することまで勧めてきたのだ。

　ロジャーズ氏は、Museとのやり取りのたびに、それが自分のデータをさらにメタへ差し出させるための口実のように感じられたとの感想を記している。

　Futurismは、AI企業の多くが「詮索好き」と受け取られないよう細心の注意を払う中で、ここまで踏み込むのはMetaとしても大胆だと指摘している。

　もちろん、これらは一部のユーザーの体験であり、エイテン氏の件も許可設定をめぐる行き違いの可能性は残る。一方で、「壁に耳あり障子に目あり」ということわざが、AI時代には比喩で済まなくなりつつあるのかもしれない。

　頼れる相棒か、それとも懐に入り込みすぎた監視者か。スマホの中の新しい同居人をどこまで信用するかは、結局のところユーザー一人ひとりの判断に委ねられている。

参考：Futurism、ほか

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

関連記事

• 

  安全装置を切った瞬間、AIは幽霊とネッシーを信じ始めた！ Google研究チームが報告した「自分には意識がある」の副作用

• 

  「もう続きを書かないでくれ」と読者に懇願されるSF作家！2015年から描いてきた「AI監視国家」が現実と重なり始めた

• 

  【衝撃】生放送でAI女優が突然フリーズ、中国語でまくし立て始めた… 笑顔のまま暴走した”一世一代の名演”

• 

  【シリコン人種】人類と資源を奪い合う新種族が生まれる！？ MS幹部がアンソロピックのAI開発を痛烈批判