MemPot：用优化蜜罐防御记忆提取攻击
MemPot: Defending Against Memory Extraction Attack with Optimized Honeypots
AI 导读
研究者提出 MemPot，通过向大语言模型智能体的记忆注入优化蜜罐来防御记忆提取攻击，并称这是首个经理论验证的此类防御框架。该方法用两阶段优化生成陷阱文档，使其对攻击者有更高检索概率，同时对正常用户不显眼。研究将检测过程建模为 Wald 序贯概率比检验（SPRT），并证明其平均采样轮数低于最优静态检测器。实验显示检测 AUROC 提升 50%，在低误报率约束下真阳性率提升 80%，且不增加在线推理延迟，并保持智能体在标准任务上的效用。