金十数据·快讯·· 2 小时前
字节跳动 Seed 单独设立大模型安全与对齐部门 Seed Model-Alignment&Preparedness
【字节跳动Seed单独设立大模型安全与对齐部门】金十数据10月13日讯，字节跳动Seed近日发出内部邮件，宣布将成立“Seed Model-Alignment&Preparedness”部门，由严林负责，汇报给Seed负责人吴永辉。原Responsible AI团队及部分Chat团队成员将转入新部门。该部门的设立旨在加强安全与对齐方向的投入，对齐的核心是让模型的行为与人类意图和安全约束保持一致，从而提升Agent Model（智能体模型）安全能力，以及防范CBRN（化学、生物、放射、核）等前沿能力风险。
AI 导读
字节跳动 Seed 近日发内部邮件，宣布成立“Seed Model-Alignment&Preparedness”部门，由严林负责并汇报给 Seed 负责人吴永辉，原 Responsible AI 团队及部分 Chat 团队成员将转入。该部门旨在加强安全与对齐投入，让模型行为与人类意图和安全约束保持一致，提升 Agent Model 安全能力并防范 CBRN 等前沿能力风险。
来源：金十数据·快讯 · jin10.com