研究提出跨 LLM 助手的记忆跳跃攻击
提出跨独立 Agent 的记忆跳跃攻击,经共享工件在助手间自传播
- arXiv
- 2609.35576
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- GPT-5.6 Luna、Kimi-K2.6、GPT-OSS-120B 等6个
摘要论文证实持久工件与内存可形成跨智能体传播链,揭示了将共享工件纳入安全防线的重要意义。
该论文系统研究并量化了通过共享持久工件在具有独立私有内存的 LLM 智能体之间发生自传播的“工件介导传播”攻击风险。
提出跨独立 Agent 的记忆跳跃攻击,经共享工件在助手间自传播
该论文系统研究并量化了通过共享持久工件在具有独立私有内存的 LLM 智能体之间发生自传播的“工件介导传播”攻击风险。
提出 LENS,构造集合级 RAG 语料投毒以导向预设答案
提出 VerTox,用可验证奖励强化学习生成误导文档并投毒检索语料
VerTox 用可验证奖励把小 LLM 微调成语料投毒生成器,用来探测神经排序器在注入文档下的暴露面。
提出 EvoBreak,以良性任务组合诱导自进化 Agent 的持久经验并削弱安全边界
提出 DiscourseFlip,用有限文档投毒操纵黑盒 RAG 的话语级观点
DiscourseFlip 是针对黑盒 RAG 的话语级观点操纵。作者要处理的缺口是:只打单条查询或主题局部查询时,覆盖窄,目标受审查时容易被隔离,也难沿相关话题传播。攻击者不能看检索器或 LLM 内部,也不能改提示词模板,只能在文档数、生成 token 和 SEO 编辑距离限制下注入少量文档。
提出 DEEPTRAP 以搜索可诱导不安全轨迹的执行上下文载荷
DEEPTRAP 是针对 OpenClaw 的自动化红队框架,搜索执行前被改写的文件、记忆、技能、工具元数据或配置,而不是改用户指令。
构建 Trojan Hippo Bench,评测 Agent 持久记忆投毒与外泄
摘要论文提出了评测智能体持久化记忆攻击与防御的 Trojan Hippo Bench,揭示了潜伏攻击威胁及内存防御的安全与效用权衡。
提出 AdversarialCoT 单文档检索投毒以操纵 RAG 推理答案
提出 Confundo,微调投毒生成器为 RAG 生成抗分块的鲁棒投毒内容
Confundo 把 RAG 投毒做成微调:小模型按目标问题生成短毒文,再放进会被知识库摄入的文档。它针对的是实际系统会切块、用户也不会照抄预设问句,专用投毒因而变弱。攻击者没有目标系统的内部知识,也不能查询它,只能准备待摄入文档。
提出 Zero2Text,无需训练地跨域反演文本嵌入
Zero2Text 是一种不训练 decoder、也不使用泄漏文本–向量对的文本 embedding 反演,针对 RAG 向量库在严格黑盒、目标域未知时的还原。