OpenAI 发布反 CSAM 图像分类器与 ChatGPT 警告机制
热点事件持续更新
OpenAI 发布反 CSAM 图像分类器与 ChatGPT 警告机制
1 篇报道1 个报道来源41 分钟前更新
先了解这件事
AI 综述
OpenAI 发布一套打击儿童性虐待材料(CSAM)的新工具,包括与 NCMEC 合作开发的图像分类器、ChatGPT 警告界面、开发者指南和执法工具。早期测试中,该分类器在查出同样数量有害图像的同时少标记 48% 的图像,被标记图像为有害的概率翻倍。 ChatGPT 会对相关提示词弹窗警告并暂停账户 24 小时,屡犯者可能被永久封号。分类器通过 API 向部分选定公司免费开放,访问由项目管理员管理。
AI 根据报道生成 · 37 分钟前更新
最新进展11月17日 01:00
OpenAI 发布新图像分类器与 ChatGPT 警告机制,打击儿童性虐待材料(CSAM)报道时间线
沿着报道,了解事件的不同侧面。
11月17日
- TechCrunch · AIOpenAI 发布新图像分类器与 ChatGPT 警告机制,打击儿童性虐待材料(CSAM)
OpenAI 发布一系列打击儿童性虐待材料(CSAM)的新工具,包括与 NCMEC 合作开发的图像分类器、ChatGPT 警告界面、开发者指南和执法工具。早期测试中,该分类器在查出同样数量有害图像的同时少标记 48% 的图像,且被标记图像为有害的概率翻倍。ChatGPT 会对相关提示词弹窗警告并暂停账户 24 小时,屡犯可能永久封号;分类器通过 API 向部分公司免费开放。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。