面向多轮 LLM 智能体的依赖感知隐私保护
Dependency-Aware Privacy for Multi-turn LLM Agents
AI 导读
论文提出 RootGuard，一种面向多轮 LLM 智能体的隐私防护方法，只对根值净化一次即可让隐私保证不随交互轮数衰减。现有基于度量差分隐私的提示词净化器对每次释放独立加噪，对手合并多轮释放即可恢复私有属性；论文分析表明，当私有属性是计算图的根时，对派生值独立加噪最多会按导出函数的 Lipschitz 常数放大根的可区分性，在医疗和金融等非线性工作流中可远超名义隐私参数。RootGuard 由加噪后的根确定性计算后续释放，依据后处理定理，隐私保证只取决于初始净化而与对手函数和轮数无关，派生值以零边际成本继承隐私；方法还利用结构化领域知识（如由身高体重计算 BMI）在根之间分配预算以改善隐私-效用权衡。