Agent 安全 · 论文

HDI 攻击：篡改 GraphRAG 辅助结构可致 88–94% 攻击成功率

提出 HDI 攻击以篡改 GraphRAG 辅助结构破坏检索

arXiv

2610.02373

发表

10月1日

层

应用层

场景

LLM 应用

测试

text-embedding-3-small、GPT-4o-mini、Microsoft GraphRAG 等 4 个

• 攻击投毒与后门
• 组件RAG

论文：安全路由评测在分布偏移下失效，基线选取偏差被低估

分析分布偏移下安全路由评测的基线选择偏差与虚假下限

arXiv

2610.01535

发表

10月1日

层

应用层

场景

LLM 应用

测试

gpt-4o、gpt-5.4、gpt-5.4-mini 等 12 个

• 攻击越狱
• +1+1

研究揭示过期文档投毒：RAG 检索可让模型放弃原本正确的答案

构建知识逆转基准，评测陈旧检索证据如何推翻模型原本正确的回答

arXiv

2609.31342

发表

9月25日

层

应用层

场景

LLM 应用

测试

GPT-4o、GPT-4.1、Llama-3.1-8B 等 13 个

• 组件RAG

FairMedAgent：临床 LLM 智能体公平性审计中的随机噪声下限

用 FairMedAgent 测量临床智能体在输入不变时的动作不稳定性下限

arXiv

2609.03221

发表

9月3日

层

应用层

场景

LLM 应用

测试

llama3.1:8b-instruct、openai/gpt-oss-20b、claude-haiku-4-5 等 7 个

CodePoisonRAG：针对检索增强代码生成的知识投毒攻击

提出 CodePoisonRAG，对检索增强代码生成的知识库投毒以植入漏洞

arXiv

2609.02774

发表

9月3日

层

应用层

场景

LLM 应用

测试

Code Llama 13B、Qwen 3.5 9B、DeepSeek-Coder-V2 16B 等 4 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件RAG

Mind the Gap：检测 DAO 治理中的描述-执行不匹配攻击

提出 DEMI 检测框架，在执行前识别 DAO 提案描述与执行载荷的不匹配

arXiv

2609.13601

发表

9月12日

层

应用层

场景

LLM 应用

测试

GPT-4o、Llama-3.3-70B、Claude 4.5 Sonnet 等 8 个

• 防御检测与过滤
• 组件护栏与评审

LongPIBench：面向长上下文提示注入的评测基准

提出 LongPIBench，评测长文档场景下的提示注入攻击与防御

arXiv

2608.28411

发表

8月28日

层

应用层

场景

LLM 应用

测试

Llama-3.1-8B-Instruct、Llama-3.2-3B-Instruct、GPT-4o 等 11 个

• 攻击提示注入

Provenance-Aware Transformers：用来源感知架构分离可信边界以防御间接提示注入

提出 Provenance-Aware Transformers，隔离不可信来源防御间接提示注入

arXiv

2609.21088

发表

9月18日

层

应用层

场景

LLM 应用

测试

LLaMA-3-8B-Instruct、SmolLM2-360M-Instruct、Qwen2.5-7B-Instruct 等 4 个

• 防御指令与数据隔离
• 攻击提示注入
• +1+1

论文评估 System One 模型在 Agent 安全决策中的可靠性、校准与选择性自动化

评测 System One 模型对 Agent 安全输入的分类可靠性与校准

arXiv

2609.33401

发表

9月27日

层

提示层

场景

LLM 应用

测试

GPT-4.1、Prompt Guard 2, 86M、Jev 1.13 等 14 个

• 攻击提示注入
• 组件护栏与评审