OpenAI发布可识别AI生成图像的CSAM检测分类器
先了解这件事
2026年11月17日凌晨,TechCrunch率先报道OpenAI发布一套打击儿童性虐待材料(CSAM)的新工具,核心是一款可检测包括AI生成图像在内的滥用图像的分类器,通过API向部分公司免费开放;官方早期测试数据显示,该分类器少标记48%的图像仍能找到同样数量的滥用图像,被标记图像为滥用的几率翻倍。同日的The Verge报道称,该分类器可识别图像是否为AI生成,向通过审核的组织免费开放,并称这是首个带AI生成标记的公开CSAM分类器(官方口径)。两家媒体对48%这一数据表述不一:早先报道称该分类器少标记48%的图像仍找到同样数量滥用图像,后续报道称误报减少48%。随后IT之家报道称,NCMEC协助完成了该分类器的训练、评估和部署;invideo AI的测试显示,每四个被标记案例中约有一个最终被封禁,该报道中"减少48%误标记图像数量"的说法与早先报道相近。目前该工具已通过API向部分通过审核的公司或机构免费开放。
AI 根据报道生成 · 7 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- IT之家·人工智能OpenAI 推出儿童性虐待内容检测工具,经审核机构可免费接入
OpenAI 宣布推出儿童性虐待内容(CSAM)检测工具,将通过 OpenAI API 向经过审核的机构免费开放,NCMEC 协助完成了训练、评估和部署。官方称新图像分类器较现有保护措施减少 48% 误标记图像数量,被标记图像实际包含虐待内容的可能性约为原来的两倍;invideo AI 测试显示每四个被标记案例中有一个最终被封禁。
- The Verge · AIOpenAI 发布儿童性虐待材料检测分类器,可标记 AI 生成图像
OpenAI 发布一款儿童性虐待材料检测分类器,可识别图像是否为 AI 生成,并向通过审核的组织免费开放。OpenAI 称该分类器误报减少 48%、检出图像含虐待材料的可能性翻倍,并称这是首个带 AI 生成标记的公开 CSAM 分类器(官方口径)。
- TechCrunch · AIOpenAI 发布图像分类器与 ChatGPT 警告机制打击儿童性虐待材料
OpenAI 发布一套打击儿童性虐待材料(CSAM)的新工具,核心是可检测包括 AI 生成图像在内的图像分类器,并通过 API 向部分公司免费开放;官方早期测试称该分类器少标记 48% 的图像仍找到同样数量的滥用图像,被标记图像为滥用的几率翻倍。
本事件热度走势
当前热度 22·可比范围峰值 25(11月17日 11:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。