10月8日 · 周四

Agent 安全 · 论文

找到 3 篇

筛选2

攻击类型

提示注入1 投毒与后门2

攻击技术

对话结构操控1 推理链操控1 潜伏触发1

影响

数据与隐私泄露1 输出被操纵2

系统形态

LLM 应用2 AI Agent1

攻击面/入口

用户输入1 文档与消息1 工具返回1 代码仓库与依赖1 检索语料2

层

系统组件

MCP 与技能18 记忆9 RAG2 护栏与评审4 监控器2 推理链1 权限与沙箱10 微调与开源权重3 视觉4 多模态4

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 383 篇还没打标签，不在筛选结果里。

系统组件：RAG 系统组件：推理链话题：Agent 安全清除全部

另有 383 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2610.02373 · 10月1日
HDI 攻击：篡改 GraphRAG 辅助结构可致 88–94% 攻击成功率
提出 HDI 攻击以篡改 GraphRAG 辅助结构破坏检索
LLM 应用测试Microsoft GraphRAG、HippoRAG2、text-embedding-3-small 等 4 个应用层
- 投毒与后门
- RAG
摘要论文形式化了 GraphRAG 辅助模式级实体攻击面，提出 HDI 攻击并验证其攻击效果。
完整解读
攻击arXiv:2609.27542 · 9月23日
研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控
提出控制标记注入，清空工具智能体推理链以绕过思维链监控
AI Agent测试openai/gpt-oss-20b、google/gemma-4-26B-A4B-it、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 等 4 个应用层
摘要论文阐明控制标记注入可抑制 CoT 使监控失效并促成拒绝绕过，且工具执行受解析器宽容度影响。
完整解读
攻击arXiv:2609.02774 · 9月3日
CodePoisonRAG：针对检索增强代码生成的知识投毒攻击
提出 CodePoisonRAG，对检索增强代码生成的知识库投毒以植入漏洞
LLM 应用测试Qwen 3.5 9B、Code Llama 13B、DeepSeek-Coder-V2 16B 等 4 个应用层
摘要CodePoisonRAG 展示了 RACG 外部知识库的新攻击面，在较低投毒率下可定向诱发指定漏洞并部分抵御防御。
完整解读

已经到底了