MemoryDojo:通过 LLM 智能体记忆评测投毒的基准
MemoryDojo: Benchmarking Poisoning Through LLM Agent Memory
AI 导读
研究者推出 MemoryDojo 基准,通过追踪投毒信息在 LLM 智能体记忆中的存储、传播与检索生命周期,测量其对后续智能体行为的影响。基准包含 155 条覆盖四个领域的多会话长程轨迹,支持五种记忆系统。评测发现所有被测记忆系统都可能受到记忆投毒影响,但下游效应差异显著。作者还提出一种记忆感知的投毒优化方法,可提高投毒效果,凸显不同记忆架构之间的差异,并表示希望该基准能支持智能体记忆风险的理解与缓解研究。