TechCrunch · AI· Ivan Mehta·· 48 分钟前
OpenAI 发布新图像分类器与 ChatGPT 警告机制,打击儿童性虐待材料(CSAM)
OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
AI 导读
OpenAI 发布一系列打击儿童性虐待材料(CSAM)的新工具,包括与 NCMEC 合作开发的图像分类器、ChatGPT 警告界面、开发者指南和执法工具。早期测试中,该分类器在查出同样数量有害图像的同时少标记 48% 的图像,且被标记图像为有害的概率翻倍。ChatGPT 会对相关提示词弹窗警告并暂停账户 24 小时,屡犯可能永久封号;分类器通过 API 向部分公司免费开放。
来源:TechCrunch · AI · techcrunch.com