OpenAI 强化 GPT-6.2 反蒸馏防护,思考链提取成功率由 54% 降至 0.2%
当地时间 11 月 20 日,OpenAI 发布公告称已强化 GPT-6.2 Astra 与 GPT-6.2 Sol 两款模型对内部推理思考链(Chain-of-Thought)的保护,以防范「对抗性蒸馏」,即未经授权利用前沿模型输出训练其他模型、使其获得相似能力却不受同等安全限制。OpenAI 公布的内部自适应黑盒红队测试显示:提取此前请求推理内容的成功率从 GPT-6 Astra 原有机制下的 54.0% 降至 GPT-6.2 Astra 新机制下的 0.2%,提取当前请求推理内容的成功率从 22.9% 降至 0.9%,数据汇总自 6 个攻击模型。据介绍,防护包括对抗性训练让模型拒绝提取请求、输入与输出分类器检测攻击和推理内容泄露,以及通过 API 限制不同会话、模型和组织间复用推理内容。公告已发布、措施已落地,但上述关键指标均为 OpenAI 单方内部测试数据,未经独立证实,本条消息目前也仅见 IT 之家一家转述。
rss · IT之家 · 11月21日 01:45 · 互证 2 家
「为什么重要」 若数据属实,意味着攻击者套取 OpenAI 最新模型推理过程的难度大幅上升,抬高了将网络安全、生物学等高风险能力蒸馏迁移到安全限制较弱模型的门槛,也配合了 OpenAI 据其自述的账号执法——今年每周处理数千到数万个涉未授权蒸馏的账号,夏季以来规模明显增加。但需要区分:防护措施与执法行为是 OpenAI 官方公告确认的,而「54%→0.2%」等量化效果全部来自厂商自测,外界能否复现尚待观察。接下来值得盯的是其他模型提供商是否会跟进类似推理内容保护与跨厂商攻击指标共享,以及是否出现独立第三方评估。
「背景」 蒸馏之争近一年已是行业公开争议:据文中相关阅读线索,英伟达 CEO 黄仁勋曾回应称蒸馏属于市场竞争行为,微软 CEO 纳德拉批评部分模型公司一边主张数据「合理使用」一边限制他人蒸馏属于「双标」,中国商务部也回应过美方所谓 AI 蒸馏指控,另有报道称字节跳动内部要求不依赖蒸馏技术。OpenAI 在同篇公告中给出的研究依据是:其内部测试发现,用教师模型完整推理轨迹做监督微调的学生模型,在网络安全能力迁移上通常优于仅用最终回答、推理摘要和工具交互记录训练的学生模型——这正是其收紧推理内容保护的直接动因。
做AI项目,先看AI雷达 - AiRadar.com.cn · 全部AI快讯 →