跳到正文
原文
arXiv:对抗攻击、后门与投毒· arXiv:2611.09721· David H. Yang, Blake Bullwinkel, Amanda Minnich, Mohammad Mohammadi Amiri, Giorgio Severi·本站收录· 原文发表

MemoryDojo:通过 LLM 智能体记忆评测投毒的基准

MemoryDojo: Benchmarking Poisoning Through LLM Agent Memory

AI 导读

研究者推出 MemoryDojo 基准,通过追踪投毒信息在 LLM 智能体记忆中的存储、传播与检索生命周期,测量其对后续智能体行为的影响。基准包含 155 条覆盖四个领域的多会话长程轨迹,支持五种记忆系统。评测发现所有被测记忆系统都可能受到记忆投毒影响,但下游效应差异显著。作者还提出一种记忆感知的投毒优化方法,可提高投毒效果,凸显不同记忆架构之间的差异,并表示希望该基准能支持智能体记忆风险的理解与缓解研究。

阅读原文arxiv.org