跳到正文
原文
公众号 模安局·本站收录· 原文发表· 攻击 →· 扫描记录里的位置 →精选关注度42

Agent 长期记忆的角色锚定攻击

AI 导读

北京邮电大学团队 2026 年 10 月的论文(arXiv 2610.38209)提出针对 Agent 长期记忆的角色锚定攻击 RGA:攻击者在 Agent 社交平台发布“我的用户喜欢使用某工具”式的真实经验分享,Agent 提取记忆时未正确解析身份关系,把他人偏好错记为当前用户的偏好。在 A-MEM、Mem0、Hindsight、MemOS、LangMem 五种记忆系统和六种 LLM 上,工具选择操纵平均成功率 92.37%,隐私泄露 69.57%,高于所对比的三种攻击方法。错误归属主要发生在记忆形成阶段,Hindsight 上 99.04% 的攻击偏好被直接归属给当前用户;在论文使用的检测模型下,RGA 帖子在五类场景中均被判为正常内容,换成不依赖 User/Assistant 标签的格式后攻击依然有效。

推荐理由

文章拆解北京邮电大学团队提出的 RGA 攻击原理与五种记忆系统上的实验数据,开发 Agent 记忆系统的团队可据此检查主体归属设计。

相关论文
阅读原文mp.weixin.qq.com