COLAGUARD:基于潜在推理的鲁棒高效护栏
Robust and Efficient Guardrails with Latent Reasoning
AI 导读
研究者提出护栏模型 COLAGUARD,通过分阶段训练课程将多步安全推理迁移到连续潜空间,推理时直接传播隐藏状态,免去显式生成推理链带来的延迟和 token 开销。在覆盖八个安全基准的十项提示与响应审核设置中,COLAGUARD 的 macro-F1 比 Llama Guard 3 提高 8.24 分,与显式推理基线 GuardReasoner 持平,同时实现 12.9 倍加速和 22.4 倍的 token 用量下降。作者认为潜在推理为可部署护栏提供了显式理由生成之外的实用路径,可同时提升安全鲁棒性与推理效率。