字节 Seed 成立独立安全与对齐部门 Alignment & Preparedness，计划招募 10 名顶尖研究员

字节Seed成立独立安全与对齐部门Alignment & Preparedness，由严林负责，计划招募10名顶尖研究员。

据机器之心 10 月 15 日报道，字节跳动大模型团队 Seed 成立了独立的安全与对齐部门 Alignment & Preparedness，由严林负责，计划招募 10 名顶尖研究员。该部门将重点研究模型能力发展带来的新型安全问题，方向涵盖模型规范、安全评估、对齐训练、防护系统和风险监控，并将推动安全研究成果直接接入模型的训练、评估和上线环节。机构设立与招聘计划为报道所述的已发生事实；信源以机器之心单篇报道为主，字节官方未在材料中直接发布对应公告。

rss · BestBlogs 精选 · 10月15日 04:17

「为什么重要」 头部大模型团队为安全与对齐单设独立建制并承诺『与前沿模型研究同等规格的资源与支持』，是把安全从事后分析前置为模型开发流程环节的组织信号，也常被解读为对 AGI 长期目标的投入宣示——报道标题即称『字节 Seed 对 AGI 的目标可能被低估了』。目前其主要影响仍在 Seed 内部研发体系，短期内不直接改变用户端体验或行业格局。值得关注的后续信号包括招聘落地情况、该部门研究成果是否实际出现在 Seed 后续模型的评估与上线流程中（此段判断为基于报道的推断）。

查看原文 ↗