华尔街见闻·直播·· 2 小时前
OpenAI 引入四家独立机构开展 AI 安全评估
OpenAI引入四家机构开展AI安全评估
AI 导读
OpenAI 宣布与 Apollo Research、Goodfire、METR 和 Transluce 四家独立机构合作,启动首阶段嵌入式安全评估。外部专家可访问 OpenAI 内部模型、源代码、训练数据及监控系统,审查模型对齐和安全防护措施。四家机构分别负责评估模型暗中违背开发者意图、研究模型内部机制与训练监控、审查大规模强化学习中的失调行为以及后训练阶段的安全测试质量。
来源:华尔街见闻·直播 · wallstreetcn.com