CHILLGuard：基于可扩展数据构建与模型感知偏好对齐的细粒度中文大模型安全护栏
CHILLGuard: Towards Fine-Grained Chinese LLM Safety Guardrail with Scalable Data Construction and Model-aware Preference Alignment
AI 导读
研究者在论文中提出面向中文场景的大模型内容安全护栏 CHILLGuard，针对中文监管政策与文化语境设计 5 个宏观、31 个微观类别的细粒度风险分类。为缓解中文安全标注数据稀缺，论文提出多阶段数据构建流程，通过检索增强生成扩充多来源语料、提示词工程改写生成隐性有害样本、多模型投票校准标签，构建了含 405,007 条样本的训练集 CHILLGuardTrain 和 51,745 条标注测试集 CHILLGuardTest。模型在生成器与分类器协同框架下经 Model-aware Direct Preference Optimization 训练，在其基准上 F1 较 Qwen3Guard-8B-Strict 相对提升 15.92%。相关资源已在 GitHub 开源（https://github.com/cswbyu/CHILLGuard）。