跳到正文
原文
OpenAI·本站收录· 原文发表· 防御 →· 扫描记录里的位置 →

OpenAI 发布儿童性虐待材料检测分类器:可识别 AI 生成内容,通过 API 免费提供给经审核的组织

Strengthening the fight against online child sexual abuse with new tools and support

AI 导读

OpenAI 发布图像分类器,可检测包括 AI 生成内容在内的儿童性虐待材料(CSAM),经 OpenAI API 免费提供给经审核的组织。内部评测估计,其标记的图像比现有工具少 48%,检出的虐待图像数量大致相当。fal 测试中 72% 的高置信度标记被确认为新 CSAM;ChatGPT 将对相关尝试发出警告,移除对话并暂停访问 24 小时。

阅读原文openai.com