真实世界不良内容检测的整体性方法

研究者提出一套面向真实世界内容审核的分类系统构建方法，覆盖从分类体系设计到模型鲁棒性的完整流程。方法链条包括内容分类体系与标注说明设计、数据质量控制、用于捕捉罕见事件的主动学习流程，以及多种提升鲁棒性、避免过拟合的手段。该系统用于检测色情、仇恨、暴力、自残和骚扰等多类不良内容；作者称这一思路可推广到不同的内容分类体系，训练出的高质量内容分类器效果优于现成模型。论文在 AAAI-23 作口头报告。