跳到正文
原文
CDO Magazine·本站收录· 原文发表· 工具 →· 扫描记录里的位置 →

OpenAI 发布用于检测儿童性虐待材料的 AI 图像分类器及安全工具

OpenAI Releases AI Image Classifier and Safety Tools to Help Detect Child Abuse Material

AI 导读

OpenAI 于 11 月 16 日发布一款用于检测儿童性虐待材料(CSAM)的图像分类器,可识别包括 AI 生成图像在内的滥用内容,同时为 ChatGPT 用户提供额外防护,并推出开发者资源与执法调查工具。该分类器根据视觉指标为疑似滥用图像打分,帮助审核人员排定检查优先级;OpenAI 称该工具在美国国家失踪与受剥削儿童中心(NCMEC)协助下完成训练与评估,经过审核的机构可通过 OpenAI API 免费使用。报道还提醒企业使用 AI 识别有害内容时,需配套检测准确率评估、误报管理与敏感信息处理流程。

阅读原文cdomagazine.tech