AI編集画像・動画の「ニセ記憶」で人の記憶を上書きできるか？　200人を対象にMITが実験（生成AIクローズアップ）

1週間の気になる生成AI技術・研究をいくつかピックアップして解説する連載「生成AIウィークリー」から、特に興味深い技術や研究にスポットライトを当てる生成AIクローズアップ。

今回は、AIで編集された画像や動画によって人間の記憶をどれだけニセの記憶に上書きできるかを調査した論文「Synthetic Human Memories: AI-Edited Images and Videos Can Implant False Memories and Distort Recollection」に注目します。

▲左がオリジナルの画像、右がAIで被写体を笑顔に編集した画像

MIT Media Labの研究チームは、AIで編集された画像や動画が人間の記憶にどれほど影響を与えるかを調査する実験を行いました。

この実験では、200人の参加者を4つのグループに分け、まず全参加者に24枚のオリジナル画像を見せました。その後、参加者に簡単なゲームを行ってもらい、次に各グループに異なる4つの条件下で画像と動画を見せました。最後に、最初に見たオリジナル画像の内容をどれだけ正確に記憶しているかを質問し、調査しました。

対照群：編集されていないオリジナル画像
AI編集画像群：AIで編集された画像
AI生成動画群：オリジナル画像をもとにAIで生成された動画
AI編集画像からの動画群：AI編集画像をもとにAIで生成された動画

▲実験の概要

実験の結果、AI編集画像群は対照群と比べて1.67倍多くの誤った記憶を報告しました。さらに、AI編集画像からの動画群では誤った記憶の報告が対照群と比べて2.05倍に増加しました。これは約38%（質問に対して3分の1以上が不正確であった）を誤って記憶していたことを意味します。

また、記憶の確信度（自分の答えにどれくらい自信があるか）についても調査が行われ、AI編集画像からの動画群では誤った記憶に対する確信度が対照群の1.19倍に達し、最も高くなりました。

これは、AIで編集されたコンテンツが誤った記憶を作り出すだけでなく、その記憶に対する確信も強めることを示しています。つまり、参加者は誤った記憶を持つだけでなく、その誤った記憶に対してより強い確信を持つ傾向があるということです。

▲異なる4つの条件下のサンプル

研究チームは、AIによる編集の種類によって記憶への影響が異なることも発見しました。人物に関する編集（表情や人種の変更など）は最も多くの誤った記憶を生み出しました。具体的には、AI編集画像からの動画群において、人物関連の編集では45.3%の誤った記憶が報告されました。これは人は人物の特徴に注目しやすいため、表情の変化が記憶に強く影響を与えたと考えられます。

例えば、つまらなくて笑っていない状況でも、後から笑顔に加工して楽しそうに見せることで、それを再度見た人の記憶に楽しんでいる様子を焼き付けることができるということです。

また、環境に関する編集（背景や天候の変更など）は対照群と比べて2.2倍の誤った記憶が報告されました。これは、人々が通常あまり注意を払わない背景の詳細が変更されたとき、その変更が元の記憶を大きく歪める効果があることを示唆しています。

例えば、被写体の背景に犯罪シーンが映っていたとしても、後でそこだけ消されると、再度見た時に犯罪シーンがあったかを覚えていないという感じです。