跳到正文
事件历史事件

研究揭示LLM长期记忆可被记忆注入持久攻击

1篇报道1个报道来源

先了解这件事

AI 综述

圣保罗大学等机构研究者提出针对LLM长期记忆的记忆注入威胁模型，在ChatGPT Instant 5.3、Claude Sonnet 4.6、Gemini 3 Flash上实证持久化攻击；注入经个人记忆、组织指令、MCP资源等载体植入，可在全新会话中持续散布虚假信息、生成有害内容或模拟服务离线。

AI 根据报道生成 · 16 天前更新

相关研究

这件事的论文

后续时间线

日期未标
  1. 日期未标
    arXiv精选
    长期记忆与 LLM 结合代价高昂：从提示注入到持久化攻陷

    巴西圣保罗大学等机构研究者在论文中提出针对 LLM 长期记忆的记忆注入通用威胁模型，并在 ChatGPT Instant 5.3、Claude Sonnet 4.6 和 Gemini 3 Flash 上实证了覆盖 NIST 可用性、完整性、隐私、滥用四类攻击目标的持久化攻击。注入通过个人记忆、项目、技能、组织指令和 MCP 连接资源等持久记忆载体植入，可在全新会话中持续散布虚假信息、生成有害内容或模拟服务离线。其中 Claude 的共享记忆可让组织内单个账户攻陷其他用户，作者经组织指令与 Google Drive 连接器成功记录并外泄了用户提示词。作者从 OWASP 安全原则推导出多项缓解措施，指出近半数在三家服务中尚未落实，并已按负责任披露流程提前通知厂商；攻击工件发布在 github.com/PedroBarcha/Memory-injection。