跳到正文
原文
arXiv· arXiv:2605.30693· Wenjie Jacky Mo, Xiaofei Wen, Rui Cai, Boyu Zhu, Sicong Jiang, Zihan Wang, Minglai Yang, Zhe Zhao, Muhao Chen·本站收录· 原文发表

RouteGuard:面向专用护栏的威胁分诊框架

Triaging Threats to Specialized Guardrails

AI 导读

研究者提出 RouteGuard,一个把对话分诊给专用专家护栏的路由-专家(router-expert)框架,用于按威胁类型做检测。为评估护栏模型的鲁棒性,团队先构建了人工标注基准 GuardZoo,包含 32,460 个样本、覆盖 15 类不安全内容。在 GuardZoo 上的评测显示,单体护栏存在任务干扰,不同威胁域需要不同的决策边界,难以压缩进单一模型。实验表明,RouteGuard 在细粒度威胁检测上优于强护栏基线,在域外评测下泛化更好,并支持模块化扩展以应对新出现的威胁。

阅读原文arxiv.org