Guardian-as-an-Advisor：推进面向可信赖 LLM 的下一代 Guardian 模型
Guardian-as-an-Advisor: Advancing Next-Generation Guardian Models for Trustworthy LLMs
AI 导读
研究提出软门控管线 Guardian-as-an-Advisor：Guardian 模型给出风险标签和简短说明，前置到原查询重新推理，基座模型仍按原模型规范运行，在保持安全的同时减少过度拒答。配套构建 208k+ 多领域数据集 GuardSet，含鲁棒性与诚实性切片；GuardAdvisor 经 SFT 与 RL 训练以保证标签与说明一致。GuardAdvisor 检测精度具竞争力，其推理仅占基座模型算力不到 5%，现实有害输入率下端到端开销仅 2-10%。