跳到正文
热点事件持续更新

OpenAI 发布反 CSAM 图像分类器与 ChatGPT 警告机制

1 篇报道1 个报道来源41 分钟前更新

先了解这件事

AI 综述

OpenAI 发布一套打击儿童性虐待材料(CSAM)的新工具,包括与 NCMEC 合作开发的图像分类器、ChatGPT 警告界面、开发者指南和执法工具。早期测试中,该分类器在查出同样数量有害图像的同时少标记 48% 的图像,被标记图像为有害的概率翻倍。 ChatGPT 会对相关提示词弹窗警告并暂停账户 24 小时,屡犯者可能被永久封号。分类器通过 API 向部分选定公司免费开放,访问由项目管理员管理。

AI 根据报道生成 · 37 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. TechCrunch · AI
    OpenAI 发布新图像分类器与 ChatGPT 警告机制,打击儿童性虐待材料(CSAM)

    OpenAI 发布一系列打击儿童性虐待材料(CSAM)的新工具,包括与 NCMEC 合作开发的图像分类器、ChatGPT 警告界面、开发者指南和执法工具。早期测试中,该分类器在查出同样数量有害图像的同时少标记 48% 的图像,且被标记图像为有害的概率翻倍。ChatGPT 会对相关提示词弹窗警告并暂停账户 24 小时,屡犯可能永久封号;分类器通过 API 向部分公司免费开放。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。