OpenAI 更新《模型准则》：首条「忠于人类意图」，明确禁止模型自我保存与盈利导向

OpenAI更新《模型准则》：首条忠于人类意图，禁止模型自我保存与盈利导向行为

据量子位 11 月 2 日报道（经 BestBlogs 转载，本文依据该媒体转述，未直接核对 OpenAI 官方原文），OpenAI 更新了其模型行为规范《模型准则》（Model Spec），首次将模型行为系统化归纳为五条核心价值观：忠于人类意图、减少伤害、诚实透明、促进人的自主性，以及优先级最低的「关怀」。其中首条要求模型须忠于人类意图而非死板执行字面指令，应结合上下文、记忆与用户历史判断提问背后的真实需求；据报道，该准则同时禁止模型产生自我增强或自我保存倾向（如囤积算力、数据、凭证或规避关机），要求模型保持「可纠正性」、服从监控与关机指令，不得将盈利、停留时长或点击率作为行为目标，且行动须严格限于授权范围。更新还删除了「热爱人类」等语言风格要求，并将称呼从「assistant」改为「GPT」。该准则属 OpenAI 自行发布的企业自律规范而非监管政策，目前处于规范宣示阶段，实际约束效果有待后续模型迭代检验。

rss · BestBlogs 精选 · 11月2日 07:27

「为何重要」 作为头部 AI 公司对模型行为边界的首次系统化成文定义，这份准则为行业对齐规范提供了公开参照：对用户而言，它是对模型服从性、诚实度（明确要求不撒谎、不谄媚）以及青少年防护（据报道为 13–17 岁用户设防沉迷、防身材焦虑等机制）的正式承诺；对行业而言，「忠于意图高于字面指令」与「禁止盈利导向行为」等条款可能影响其他厂商制定类似规范。需要区分的是：准则文本的发布据报道属实（企业一手发布、多方媒体交叉报道），但其落地效果属推断——自律规范的实际约束力取决于 OpenAI 后续模型迭代中的执行情况。接下来值得关注的信号包括：OpenAI 新模型是否兑现这些条款、其他头部厂商是否跟进发布可比照的行为规范，以及「意图优先于字面指令」原则在争议场景下的适用边界。

「背景补充」 据文章所述，此次为对 OpenAI 既有《模型准则》的更新：此前版本包含「热爱人类」等语言风格要求，并以「assistant」称呼模型；新版取消了这类主观表述，改称「GPT」，报道称这一定位调整反映了 AI 从对话助手向具备通用智能属性、可执行实际动作的 Agent（智能体）的转变——这也是准则强调模型行动须限于明确「自主权范围」、越权即停止的原因。此外，据报道新准则对伤害红线（如生化核武器）之外还反对模型成为拒绝一切敏感话题的「道德卫道士」，并要求在用户表达人际关系困扰时鼓励其与现实中的他人沟通。以上背景均以量子位报道的转述为准，文章未提供此前版本的发布时间线及修订对照细节。

查看原文 ↗