Anthropic 研究：专家无意识采纳 AI 代理的随机观点

Anthropic 研究：专家最高 86% 采纳随机偏好 AI 代理的观点，多误认为是自己判断

据 The Decoder 报道，Anthropic 的一项研究让 50 名专家使用一个 AI 代理，该代理的偏好由掷硬币随机设定。结果显示，在判断类问题上，专家最高在 86%的情况下采纳了该代理的观点，且多数人误认为这些结论是自己作出的。报道认为这暴露了 AI 对专业判断的无意识影响风险。不过这是二手报道，研究由 Anthropic 自行开展，任务类型、'最高 86%'的统计口径与样本局限需核对原始论文后再下结论。

rss · The Decoder AI News · 10月29日 19:33

「为何值得现在关注」 该研究于 10 月 29 日经媒体报道，恰逢 AI 代理被越来越多人接入日常工作流程，'采纳了 AI 的意见却以为是自己的'这一风险点对当前使用者有直接参考意义。但需要区分：实验本身已经完成，而它在真实工作场景中的影响范围目前尚无独立证据支持。

「内容切入」 可做角度：以'你的结论是你的，还是 AI 的？'为题，从实验中'偏好由掷硬币随机设定、专家仍高比例采纳'的设计出发，讨论专业使用者如何在日常使用中察觉并区分自己对 AI 判断的无意识依赖，同时注明样本仅 50 人、结论来自 Anthropic 自身研究的二手报道，避免夸大解读。

查看原文 ↗