ConsisGuard：对齐 LLM 护栏中的安全深思与策略执行
ConsisGuard: Aligning Safety Deliberation with Policy Enforcement in LLM Guardrails
AI 导读
ConsisGuard 框架对齐推理式 LLM 护栏中的安全深思与策略执行，弥合模型推理中已识别有害意图、最终却仍判为安全的“深思-执行差距”。该框架通过策略到决策轨迹蒸馏与功能耦合对齐，让安全深思基于安全策略、最终决策由深思推出。在提示与响应有害性检测基准上，ConsisGuard 提升了检测性能并减少策略执行失败。