OpenAI内部部署控制室系统拦截风险AI任务，从指令到叫停最长35秒
据 IT 之家 11 月 10 日报道，OpenAI 宣布已在内部研究设施部署“控制室”系统，用于拦截可能存在风险的 AI 任务。机制上，研究员启用某项任务时需先向控制室申请唯一任务 ID，该标识符会附加到发送给推理引擎的请求上；一旦研究员或监控系统下达停止指令，控制室会拒绝下一次推理请求，使任务无法再获得模型输出。OpenAI 自述从收到停止指令到阻止任务继续的最长延迟为 35 秒，原因是推理授权请求存在缓存层，公司称正努力将延迟缩短至 0；此外所有前沿强化学习任务都会配备独立的模型监控器。该系统目前仅用于 OpenAI 内部研究设施，其拦截效果为官方单方描述、尚无独立验证，对普通用户暂无直接影响。
rss · IT之家 · 11月10日 02:05
「为什么现在值得注意」 这是官方宣布的已部署系统，把“如何叫停失控智能体”从抽象讨论变成了可验证的具体机制：任务 ID 绑定推理请求、控制室授权拦截、独立监控器。不过 35 秒的最长延迟和实际拦截效果仍是 OpenAI 自述数据，属于尚未经独立验证的部分。
「内容切入角度」 可做角度：拆解“35 秒叫停”的实现路径——从任务 ID 授权、推理引擎咨询控制室到拒绝下一次请求，解释缓存层为何造成延迟窗口，并与“只标记可疑行为、不主动拦截”的传统监控方式对比，说明这套设计的思路与其目前的局限。
做AI项目，先看AI雷达 - AiRadar.com.cn · 全部AI快讯 →