C-SafeGen：基于主张级流式护栏的认证安全 LLM 生成
C-SafeGen: Certified Safe LLM Generation with Claim-Based Streaming Guardrails
AI 导读
研究者提出 C-SafeGen 框架，通过基于主张的流式解码（CSD）算法和基于 conformal 分析的统计风险保证框架，实现可认证的安全 LLM 生成。针对现有护栏模型侧重检测而非安全解码、缺乏严格安全保证的问题，CSD 用流式护栏模型逐条检查模型生成的顺序主张，并通过回溯机制修订被标记为高风险的主张。作者给出方法在安全约束下达到目标生成分布的理论保证，推导出安全风险的高概率上界，并证明该方法可将安全风险渐近控制到任意期望水平。实验结果显示该方法与现有安全解码方法相比具备有效性和效率，作者还用真实数据验证了所推导上界的可靠性与紧密性。