面向 LLM 裁判的紧致 PAC-Bayes 泛化保证
Tight PAC-Bayes Generalisation Guarantees for Large Language Model Judges
AI 导读
研究者提出用 PAC-Bayes 框架认证用于监测 LLM 智能体输出的 LLM 裁判,对其在部署生成器产生的提示词-回复对上的安全分类定义风险,通过更紧的界和更高效编码,使标准参数高效微调即可在分类和 Brier 风险上得到非空洞甚至紧致的泛化证书,且无需留出验证数据。作者提出 LoRA-GT,在层间共享单一量化尺度,以很小的预测性能下降取得最紧的证书。在五个护栏模型和四个基准上的实验显示,证书紧度更多取决于适配复杂度而非基座模型规模。论文还考察了量化能推进到何种程度才会使风险上升超过更短描述带来的界收紧收益,作者称这些结果为可认证的可扩展监督提供了实用路径。