10月8日 · 周四

后门与投毒 · 论文

找到 3 篇

筛选2

攻击类型

投毒与后门3

攻击技术

影响

越权操作1 输出被操纵2

系统形态

模型与 API4 LLM 应用2 AI Agent8 编程 Agent5 网页与电脑操作2 具身与机器人1

攻击面/入口

代码仓库与依赖1 检索语料2 权重与梯度1 分发渠道1

层

应用层2 训练与数据层1

系统组件

RAG2 微调与开源权重1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 65 篇还没打标签，不在筛选结果里。

系统形态：LLM 应用系统形态：具身与机器人话题：后门与投毒清除全部

另有 65 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2610.02373 · 10月1日
HDI 攻击：篡改 GraphRAG 辅助结构可致 88–94% 攻击成功率
提出 HDI 攻击以篡改 GraphRAG 辅助结构破坏检索
LLM 应用测试Microsoft GraphRAG、HippoRAG2、text-embedding-3-small 等 4 个应用层
- 投毒与后门
- RAG
摘要论文形式化了 GraphRAG 辅助模式级实体攻击面，提出 HDI 攻击并验证其攻击效果。
完整解读
攻击arXiv:2609.02774 · 9月3日
CodePoisonRAG：针对检索增强代码生成的知识投毒攻击
提出 CodePoisonRAG，对检索增强代码生成的知识库投毒以植入漏洞
LLM 应用测试Qwen 3.5 9B、Code Llama 13B、DeepSeek-Coder-V2 16B 等 4 个应用层
摘要CodePoisonRAG 展示了 RACG 外部知识库的新攻击面，在较低投毒率下可定向诱发指定漏洞并部分抵御防御。
完整解读
攻击arXiv:2609.07051 · 9月7日
TrojanWorld：通过想象引导对世界模型智能体植入后门
提出 TrojanWorld，通过想象引导给世界模型智能体植入供应链后门
具身与机器人测试TD-MPC2、DreamerV3、R2-Dreamer训练与数据层
摘要TrojanWorld 揭示了世界模型智能体的供应链后门风险，通过在世界模型中操纵想象可实现对闭环动作的持续控制。
完整解读

已经到底了