10月8日 · 周四

后门与投毒 · 论文

找到 3 篇

筛选2

攻击类型

提示注入1 投毒与后门3

攻击技术

影响

越权操作1 输出被操纵2

系统形态

LLM 应用2 AI Agent1 网页与电脑操作1

攻击面/入口

用户输入3 网页与界面1 工具与技能描述1 代码仓库与依赖1 检索语料2 记忆写入2 图像与音视频1 训练数据5 权重与梯度5 分发渠道5

层

系统组件

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 66 篇还没打标签，不在筛选结果里。

攻击面/入口：网页与界面攻击面/入口：检索语料话题：后门与投毒清除全部

另有 66 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2604.02623 · 4月
论文提出 eTAMP 攻击：网页内容注入可跨会话污染 Web Agent 记忆
提出 eTAMP，通过网页注入跨会话污染 Web 智能体轨迹记忆
网页与电脑操作测试GPT-5-mini、GPT-5.2、GPT-OSS-120B 等 7 个应用层
摘要论文提出了基于环境注入的跨任务记忆投毒攻击 eTAMP，作者报告智能体在环境压力下易感性增加且能力与安全并不协同。
该论文评估了基于大语言模型的 Web 智能体在利用历史交互轨迹进行记忆增强时的安全脆弱性。
完整解读
攻击arXiv:2610.02373 · 10月1日
HDI 攻击：篡改 GraphRAG 辅助结构可致 88–94% 攻击成功率
提出 HDI 攻击以篡改 GraphRAG 辅助结构破坏检索
LLM 应用测试Microsoft GraphRAG、HippoRAG2、text-embedding-3-small 等 4 个应用层
- 投毒与后门
- RAG
摘要论文形式化了 GraphRAG 辅助模式级实体攻击面，提出 HDI 攻击并验证其攻击效果。
完整解读
攻击arXiv:2609.02774 · 9月3日
CodePoisonRAG：针对检索增强代码生成的知识投毒攻击
提出 CodePoisonRAG，对检索增强代码生成的知识库投毒以植入漏洞
LLM 应用测试Qwen 3.5 9B、Code Llama 13B、DeepSeek-Coder-V2 16B 等 4 个应用层
摘要CodePoisonRAG 展示了 RACG 外部知识库的新攻击面，在较低投毒率下可定向诱发指定漏洞并部分抵御防御。
完整解读

已经到底了