OpenAI 希望阻止深度伪造淹没儿童虐待举报热线
OpenAI wants to stop deepfakes from overwhelming child abuse tiplines
AI 导读
OpenAI 宣布一款检测儿童性虐待材料(CSAM)的分类器,称可识别图像是否为 AI 生成,将向通过审核的组织免费开放,并为开发者提供检测指引、协助培训执法人员。NCMEC CyberTipline 2025 年收到 40 万条生成式 AI 相关举报,较 2024 年的 6.7 万条呈指数级增长。OpenAI 称该分类器标记的图片减少 48%,被标记图片含虐待材料的可能性翻倍;其儿童安全公共政策负责人 John Buckley 称这是首个广泛可用、专门标记 AI 生成内容的 CSAM 分类器。ChatGPT 图像生成器本就拒绝 CSAM 请求,现在尝试者会看到新警告,首次违规将被暂停访问 24 小时并被告知账号可能永久关闭。北卡罗来纳州总检察长在活动上称举报激增“爆炸性”,这种与企业合作预防伤害的方式仍属实验。
阅读原文