字节跳动AI研究部门Seed已正式成立专门的模型对齐与准备度部门。该团队初期计划从全球招募10名研究人员,直接向Seed管理层汇报。新部门由Yan Lin领导,他此前负责豆包(Doubao)模型的算法对齐工作,并向Seed负责人吴永辉汇报。这一架构调整标志着重大转变:安全与对齐工作现已处于与核心模型开发同等的组织层级。据媒体报道,Seed似乎是中国首个设立独立安全与对齐部门的前沿AI实验室。此举也被视为中国主要AI开发商罕见地公开披露其对前沿模型风险的关注。从算力到研究支持,该部门获得的资源将与前沿模型团队持平。Seed在招聘帖中明确,随着模型能力提升,安全与对齐不再仅是防范风险的屏障,而是决定模型能否大规模部署的核心能力。核心理念在于能力与安全必须同步推进。新部门的工作贯穿模型开发各阶段,包括安全训练、自动化漏洞测试、监控和解释模型实际行为的工具,以及用于测试AI智能体(Agent)的专用环境。此外,部门还将应对化学、生物、辐射和核(CBRN)等高级能力相关的风险,这在中国实验室的公开声明中鲜少出现,显示了对该领域的高度重视。此前,中国公司通常将此类工作并入更广泛的安全或内容审核组。Seed的这一举措打破了这一模式,与OpenAI和Anthropic等西方实验室设立专业安全团队影响核心开发的做法相似。该部门吸纳了原有“负责任的AI”团队部分员工及Chat团队成员,致力于制定模型行为规范、构建安全评估体系、开发对齐训练方法、建立防护系统及持续风险监控。职位分布于北京、上海和美国加州圣何塞。此次全球招聘面向经验丰富的研究人员和应届毕业生,反映出当前顶级对齐研究人才在全球范围内的稀缺性。字节跳动试图通过提供对等的资源和高层级的汇报线来吸引顶尖人才。公告暗示了更大程度的开放性。Seed计划扩大与外部研究人员和独立评估机构的合作,以建立公信力并催生新的评估方法和基准。尽管字节跳动受中国法规约束,侧重于内容安全和数据安全,但其材料中关于对齐、智能体管控和新兴威胁准备的措辞,与西方侧重生存性风险的焦点呈现出超出预期的收敛。观察人士指出,成功的关键在于管理层是否将对齐发现视为强制性指令。早期迹象表明,直接向吴永辉汇报的机制及可比的算力承诺,显示出了坚定的承诺。如果新部门能产出切实改进安全性和性能的具体方法,其他中国实验室可能会效仿,从而在追求原始算力之外,引发一场负责任发展的“向上竞赛”。