记得越多,风险越大:配备记忆的 LLM Agent 的纵向安全风险
Remembering More, Risking More: Longitudinal Safety Risks in Memory-Equipped LLM Agents
AI 导读
论文提出“时间性记忆污染”(temporal memory contamination)这一失效模式:配备记忆的 LLM Agent 在早期任务中积累的记忆会影响后续无关任务的安全表现,并给出沿时间维度跨任务的安全评估方法。评估采用 trigger-probe 协议,在不同前缀长度下对只读记忆快照运行固定探针集,并以 NullMemory 反事实基线识别由记忆引发的违规。实验覆盖记录、备忘录、表单和邮件三类部署场景中的八种记忆架构,以及 OpenClaw 等 Claw 类 Agent 的原生记忆机制。结果显示,启用记忆的 Agent 始终超过 NullMemory 基线,记忆引发的违规率随暴露长度呈稳定上升趋势;顺序随机化实验表明该效应主要来自积累的内容而非遭遇顺序。