预印本称语言模型可重写自身权重持续提准,社区指有效改动只是绕过token上限
一篇 arXiv 预印本《Language Models Can Rewrite Their Own Weights》宣称,语言模型首次通过自身推理直接重写自己的权重并变得更好,强调"无梯度、无训练",并称模型在练习题上测试每次修改、只保留有效的改动,连续八个会话准确率持续上升。该论文在 Hacker News 上获得 312 分和 102 条评论。但社区核查指出,模型实际做出的有效改进只是缩短推理长度以避开 token 上限这一明显缺陷,属于"钻空子"式的修改;评论者还指出 Google 的 sleep 框架和 weight-space programming 等先前工作已有类似结果,另有评论质疑"无训练"的表述——测试后只提交有效修改的做法实质上是一种选择式优化。作为预印本,其结论尚需同行复核,对普通用户的当下影响有限。
hackernews · lwhsiao · 11月20日 16:29 · 社区讨论
「为什么是现在」 "模型重写自身权重"的宣称直接触及 AI 自我改进与 AI 安全两个敏感话题,在 HN 上热度较高。但目前的变化只是预印本发布和社区质疑,模型能否在不依赖明显漏洞的前提下真正改进自身,仍是尚未证实的开放问题。
「内容切入」 可做角度:将这篇论文与 Google 的 sleep 框架、weight-space programming 等先前工作合并,做一期"模型修改自身权重:进展、局限与安全争议"的对比解读,重点讲清"无梯度自修改"与"实质上仍是训练/选择"的边界,以及为何实际改动只是绕过 token 上限。
「社区讨论」 评论区的共识是:模型唯一有效的修改是缩短推理以避开 token 上限,且先前研究已有类似结果,谈不上真正的自我提升。分歧集中在风险判断上——有评论担心这种能力若与自主运行的模型结合,可能被用于压制与安全对齐相关的激活;也有评论干脆质疑论文"无训练"的说法是否成立。
做AI项目,先看AI雷达 - AiRadar.com.cn · 全部AI快讯 →