MIT实验显示200名受试者中看过AI篡改图片者更易形成虚假记忆且更自信
据 IT 之家转述《华盛顿邮报》报道，麻省理工学院媒体实验室帕蒂·梅斯（Pattie Maes）团队向 200 名受试者展示了 24 张日常照片，随后部分人看到原图，部分人看到被 AI 修改的版本（表情被改动、新增军人和气候变化景象）。记忆测试显示，看过 AI 篡改图片的受试者产生错误记忆的概率大幅上升，且对这些虚假记忆的自信程度反而更高。报道还引述多项相关研究：由生成式 AI 聊天机器人问询观看犯罪视频的受试者，其虚假记忆数量约为对照组的三倍；另一项实验中近半数受试者'记得'从未拍摄的电影翻拍版。需注意这是二手报道，未给出各项研究的论文出处与效应量，写作前应核对原始研究和 WaPo 原文。
rss · IT之家 · 10月19日 05:08
「为什么是现在」 材料显示，本周 AI 伦理与社会领域研究者在瑞典马尔默的年度会议上集中讨论'AI 干预人类记忆的后果'，同时警方和医院已在尝试用 AI 总结执法记录仪录像与医疗资料。这一应用背景让问题变得具体：乔治城大学研究者西姆的实验发现，读过 AI 错误事故摘要的受试者正确率约 45%，而读到准确摘要的约 84%，且提前告知是 AI 生成也无法避免影响——这意味着常用保障'保留人工审核'可能被削弱。不过这些研究尚处早期，现有证据并未证明普通 AI 使用必然导致认知衰退或永久性记忆损伤。
「可做角度」 可做角度：以'MIT 实验：看 AI 篡改图片会同时推高虚假记忆率和自信度'为核心事实，接上西姆实验的对比数据（84% 对 45%，事先告知也无法免疫），讨论一个具体问题——当负责审核 AI 输出的人，其记忆本身也可能被 AI 改写时，'人工把关'这层保障还剩多少效力。落点放在研究局限与'如何降低日常修图、AI 摘要场景的记忆污染'，避免夸大成'AI 能控制人类记忆'。
做AI项目，先看AI雷达 - AiRadar.com.cn · 全部AI快讯 →