OpenAI 与四家机构启动嵌入式 AI 安全评估
热点事件持续更新
OpenAI 与四家机构启动嵌入式 AI 安全评估
3 篇报道2 个报道来源1 小时前更新
先了解这件事
AI 综述
OpenAI 宣布与 Apollo Research、Goodfire、METR 和 Transluce 四家独立机构合作,启动首阶段嵌入式安全评估,向外部专家开放内部模型、源代码、训练数据及监控系统,以审查模型对齐和安全防护措施。评估人员需在现场使用专用设备访问敏感材料。 四家机构分工不同:Apollo Research 评估模型是否会暗中违背开发者意图,其余机构分别研究模型内部机制与训练监控、审查大规模强化学习中的失调行为以及后训练阶段的安全测试质量。评估机构可独立发布结果,但 OpenAI 可要求删除机密信息或延迟披露安全风险。OpenAI 计划于 2027 年进一步扩大评估范围。
AI 根据报道生成 · 44 分钟前更新
最新进展11月17日 00:40
OpenAI 与四家机构合作开展 AI 安全评估报道时间线
沿着报道,了解事件的不同侧面。
11月17日
- 金十数据·快讯OpenAI 与四家机构合作开展 AI 安全评估
OpenAI 与 Apollo Research、Goodfire、METR 和 Transluce 合作开展首阶段嵌入式安全评估,向外部专家开放内部模型、源码、训练数据和监控系统。
- 金十数据·快讯OpenAI 引入四家机构开展嵌入式 AI 安全评估
OpenAI 宣布与 Apollo Research、Goodfire、METR 和 Transluce 四家独立机构合作,启动首阶段嵌入式安全评估,外部专家可访问内部模型、源代码、训练数据及监控系统,审查模型对齐和安全防护措施。
- 华尔街见闻·直播OpenAI 引入四家独立机构开展 AI 安全评估
OpenAI 宣布与 Apollo Research、Goodfire、METR 和 Transluce 四家独立机构合作,启动首阶段嵌入式安全评估。外部专家可访问 OpenAI 内部模型、源代码、训练数据及监控系统,审查模型对齐和安全防护措施。四家机构分别负责评估模型暗中违背开发者意图、研究模型内部机制与训练监控、审查大规模强化学习中的失调行为以及后训练阶段的安全测试质量。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。