OpenAI 发布儿童性虐待材料检测分类器:可识别 AI 生成内容,通过 API 免费提供给经审核的组织
Strengthening the fight against online child sexual abuse with new tools and support
AI 导读
OpenAI 发布图像分类器,可检测包括 AI 生成内容在内的儿童性虐待材料(CSAM),经 OpenAI API 免费提供给经审核的组织。内部评测估计,其标记的图像比现有工具少 48%,检出的虐待图像数量大致相当。fal 测试中 72% 的高置信度标记被确认为新 CSAM;ChatGPT 将对相关尝试发出警告,移除对话并暂停访问 24 小时。
阅读原文