Anthropic 工程师提出“认知投降”框架：AI 越准越要保持批判性思维

Anthropic工程师Osmani提出认知投降框架，警示AI越准越须保持批判性思维

据 IT 之家 11 月 4 日报道，Anthropic Claude Code 团队工程师、曾任职谷歌超过 14 年的 Addy Osmani 在 X 上发表长文《当 AI 智能体完成工作时，如何保持批判性思维》，把使用 AI 的状态分为“认知卸载”（仍认真检查结果）、“推迟判断”（默认不验证、直接用作下一步依据）和“认知投降”（把 AI 输出当成自己的判断）三个层次。他观察到，随着模型输出越来越准、明显错误越来越少，用户反而更容易跳过独立思考与验证，并举例说人们可能认真读第一份 AI 报告、浏览第二份、到第三份只看大纲。“认知投降”一词并非他首创，源自宾夕法尼亚大学沃顿商学院 Steven Shaw 与 Gideon Nave 的论文，指人在缺少充分检验的情况下接受 AI 输出、让 AI 判断取代自身思考。Osmani 给出的做法包括提问前先形成自己的初步假设、主动寻找能推翻 AI 结论的证据、以测试结果和运行日志等可验证证据而非 AI 总结作为验收标准，并强调可以把工作和大部分审核交给 AI，但不能把责任一并交出；这是他发表于 X 的个人观点，经 IT 之家转述，原文尚未直接核验，也不涉及模型或产品的实质变化。

rss · IT之家 · 11月4日 04:44 · 互证 2 家

「为何现在」 这番提醒来自正在构建 Claude Code 的团队工程师本人，他自称日常同时运行多个 Agent，却观察到模型越进步、明显错误越少、人越难保持警惕，且 AI 编码的瓶颈正从写代码转向验证代码——而测试本身也可能由 AI 编写，全部通过未必证明软件正确。需要注意这是观点与经验总结而非新事实：其影响尚属观念层面，文中提到的“监督悖论”等引自 Anthropic 内部研究，未经独立验证。

「内容切入角度」 可做角度：用 Osmani 的三层次框架做一个“自查清单”式内容——让观众对照自己处在认知卸载、推迟判断还是认知投降阶段，再演示他提出的两个具体动作（提问前先写下自己的假设、主动找能推翻 AI 结论的证据），同时保留他“低风险任务可以完全交给 AI、重大决定保留判断权”的立场，不夸大也不劝人少用 AI。

查看原文 ↗