Zentropi 称 CoPE 模型可消除大规模内容审核的瓶颈
AI is Removing Bottlenecks to Effective Content Moderation at Scale
AI 导读
Zentropi 联合创始人 Dave Willner 称，其开源的 CoPE（Content Policy Evaluator）模型在推理时直接读取政策文本，使内容标准更新从重新训练模型变为修改文档。CoPE 为 90 亿参数，按任意标准标注内容的能力与 GPT-4o 相当，参数量约为其 1%，单张消费级 GPU 上延迟低于 200ms。作者称用 X 上的真实样本约一小时生成一个标签器，拦截对真人脱衣或性化的请求，但尚未在第二个数据集上测试，预计在其他样本上准确率会略低。