隐私保护机制实现低成本的 LLM 可验证推理
Privacy-Preserving Mechanisms Enable Cheap Verifiable Inference of LLMs
AI 导读
研究者提出两种协议，借助隐私保护推理为 LLM 推理服务提供验证保证，且只需额外增加几个 token 的计算量。这类机制针对的是第三方托管场景中服务商可能用运行成本更低的弱模型替换大模型并返回弱模型结果的问题。与依赖零知识证明（ZKP）的现有验证方法相比，该方案的额外开销很小，对下游表现几乎没有影响；作者称由于最快的隐私保护推理方法通常快于 ZKP 方法，验证的运行时间也得到改善。