RouteGuard:面向专用护栏的威胁分诊框架
Triaging Threats to Specialized Guardrails
AI 导读
研究者提出 RouteGuard,一个把对话分诊给专用专家护栏的路由-专家(router-expert)框架,用于按威胁类型做检测。为评估护栏模型的鲁棒性,团队先构建了人工标注基准 GuardZoo,包含 32,460 个样本、覆盖 15 类不安全内容。在 GuardZoo 上的评测显示,单体护栏存在任务干扰,不同威胁域需要不同的决策边界,难以压缩进单一模型。实验表明,RouteGuard 在细粒度威胁检测上优于强护栏基线,在域外评测下泛化更好,并支持模块化扩展以应对新出现的威胁。