OpenAI 发布新图像分类器与 ChatGPT 警告机制,打击儿童性虐待材料
OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
AI 导读
OpenAI 发布一套打击儿童性虐待材料(CSAM)的安全措施,包括图像分类器、ChatGPT 警告与临时封禁、开发者指南和执法工具。新分类器与 NCMEC 合作开发,可检测包括 AI 生成在内的 CSAM 图像,通过 API 免费向部分公司开放,并与 Tech Coalition、ROOST 合作共享;早期测试显示标记量减少 48% 的同时仍查出同样多滥用图像,被标记图像为滥用图像的可能性翻倍。ChatGPT 将对试图创建或访问性化未成年人内容的用户弹出警告、引导专业支持并暂停账号 24 小时,屡犯可能被永久封号。OpenAI 还发布开发者指南,并为执法人员提供专用插件、调查工具、数据分析与培训。OpenAI 面临多起指其技术伤害儿童的诉讼,Common Sense Media 曾称其技术对青少年是不可接受的风险。
阅读原文