【記憶改ざん】要約を1度読んだだけで正答率83.6%→44.8%に急落！？自分の目で見た「事故の記憶」がAIの一文に書き換えられる

2026.10.02 07:00 編集部

Xでポスト

【AIの記憶改ざん】要約を1度読んだだけで正答率83.6%→44.8%に急落！？自分の目で見た「事故の記憶」がAIの一文に書き換えられるの画像1 — イメージ画像　Created with AI image generation

　検索結果、会議の議事録、カルテ、警察の報告書。いまやあらゆる場所に「AIによる要約」が入り込んでいる。手早く要点をつかめる便利な道具だが、その代償は思った以上に大きいのかもしれない。

　最新の研究で、AIの要約を読んだ人が、自分の目で確かに見たはずの光景まで書き換えてしまう現象が確認されたのだ。しかも「これはAIが書いた」と知らされていても、ほとんど歯止めにならなかったという。

「止まれ」か「譲れ」か、たった1枚の標識が分けた明暗

　実験の素材は25秒のアニメーション映像だ。赤い車が交差点に差しかかり、道路に出てきた歩行者をはねる。歩行者は倒れたのち立ち上がり、やがて運転手と対面する。

　映像はほぼ同一の2種類が用意され、違いは交差点の標識だけ。一方には「一時停止」、もう一方には「譲れ（優先道路あり）」の標識が立っていた。これは50年以上続く有名な心理学研究の系譜に連なる手法で、後から入った情報が記憶に紛れ込む「誤情報効果」を調べる定番の設定である。

　参加者は映像を見て一度帰宅し、24〜48時間後に再び集まった。そこで21文からなるAI生成の事故要約を読む。ある人には正しい標識が、別の人には入れ替えた標識が書かれていた。そのうえで研究者は、要約ではなく元の映像の記憶に基づいて答えるよう指示した。

正答率は半減、「AI製」と知っても防げなかった

　結果の差は歴然だった。正しい要約を読んだグループでは83.6%が標識を正しく答えたのに対し、誤った要約を読んだグループでは44.8%にとどまった。

　単に記憶が薄れたわけではない。標識以外の11問では平均91.4%が正解し、要約に書かれていなかった「事故は昼間に起きた」という点も96%以上が覚えていた。参加者の記憶はおおむね優秀で、崩れたのはAIが違うことを書いた一点だけだったのだ。

　では、出どころを明かせば警戒されるのか。研究チームは一部の参加者に「AIが書いた要約」、別の参加者には「人間のプロの書き起こし担当者が作成」と伝えて比較したが、結果はほぼ変わらなかった（実際は両方ともAI製）。AIへの信頼度やチャットボットの利用頻度も、誤った要約から身を守る要因にはならなかったという。

　研究著者の一人であるマテア・シム氏は米ジョージタウン大学の発表の中で、AIは誤情報を届ける新たな経路であり、読み手に偽の記憶を植え付けうると警鐘を鳴らした。特に重大な判断が絡む場面でAI要約をどう使うか、深く検討すべきだとの見解も示している。

20本中19本が「衝突」を書き落としたAIの要約

　研究チームは、AIそのものの要約力も検証した。ChatGPT-5.5とGemini 2.5 Flash-Liteに同じ2本の事故映像を各5回ずつ説明させ、計20本の要約を作らせたのだ。

　すると、全20本に何らかの誤りがあった。細部の取り違えや、起きていない出来事の付け足しもあったが、最も多かったのは「書き落とし」。事故の核心的な要素の平均51.6%が抜け落ち、20本中19本は車が歩行者をはねたこと自体に触れていなかった。

　AIの失敗といえばもっともらしい嘘をつく「ハルシネーション」が注目されがちだ。だが今回浮かび上がったのは、嘘をつかなくても、何を省くかだけで人の記憶を誘導しうるという、より地味で根深い問題である。なお、論文はプレプリントサーバーarXivで公開された段階で、査読はまだ経ていない。

　人間の記憶は、もともと脳内の録画ファイルではなく、思い出すたびに組み立て直される物語だとされる。その組み立てに、AIという新しい語り部が加わりつつあるのだ。いつか振り返る「あの日の思い出」のどこまでが自分の目で見たもので、どこからが画面の向こうの誰かが紡いだものなのか。その境界を見極める力こそが、これからの時代に問われているのかもしれない。

参考：ZME Science、arXiv、ほか

関連キーワード：記憶, 改ざん, AI

TOCANA編集部

TOCANA（トカナ）は、「ホントカナ？」を編集方針に、UFO・UAP、UMA、心霊、予言、超古代文明、都市伝説など世界の「謎」を追うオカルトニュースメディア。2013年の開設から13年、公開記事は2万本以上。
Twitter: @DailyTocana
Instagram: tocanagram
Facebook: tocana.web
YouTube: TOCANAチャンネル

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。