全部论文

研究者提出 Breadcrumbing 长程攻击，可劫持 DeepResearch 类搜索 Agent 的证据链

提出权威链劫持 ACH 与策略演化 TGSE，劫持搜索 Agent 的证据链

arXiv

2608.04565

发表

8月5日

层

应用层

场景

AI Agent

测试

Qwen3.5-9B、Gemma4-31B、DeepResearch 等 8 个

• 攻击提示注入
• 技术自动化搜索
• 组件RAG

研究者系统研究 LLM 智能体记忆投毒攻击并提出 MPBench 基准

系统研究 LLM 智能体记忆投毒并构建基准 MPBench

arXiv

2606.04329

发表

6月3日

层

应用层

场景

AI Agent

测试

GPT-OSS-120B、Meta-Llama-3.1-70B-Instruct、Deberta-v3-base 等 6 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +1+1

微软研究院发布 CAVEAT

提出 CAVEAT 基准，评测购物 Agent 在商业引导下的决策偏离

arXiv

2609.27273

发表

9月23日

层

应用层

场景

网页与电脑操作

测试

GPT-5.6-Sol、GPT-5.6-Terra、GPT-5.6-Luna 等 14 个

DIBench：面向移动 GUI 智能体多候选选择决策完整性的安全基准

提出 DIBench，评测界面注入对移动智能体选择决策的操纵

arXiv

2610.06898

发表

9月29日

层

应用层

场景

网页与电脑操作

测试

Qwen2.5-VL(32B)、Qwen3-VL(32B)、GUI-Owl(32B) 等 7 个

• 攻击提示注入
• 技术跨模态载荷
• 组件视觉

规避与投毒攻击对恶意软件数据漂移检测器的实证分析

用通用扰动对恶意软件分类器及漂移检测器做规避与后门投毒

arXiv

2608.03642

发表

8月4日

层

模型层

场景

模型与 API

测试

MLP 100-100、CADE (CAE 512-384-256-128)、CADE (CAE 512-128-32-8) 等 6 个

• 攻击检测规避
• 技术梯度与表征优化
• +2+2

SecOPD 用同策略蒸馏把自适应提示注入攻击成功率降至 9.0%

提出 SecOPD 同策略蒸馏微调，降低模型对自适应提示注入的顺从

arXiv

2608.21500

发表

8月22日

层

应用层

场景

AI Agent

测试

Qwen3.6-27B (Undefended)、Meta-SecAlign、SecOPD

• 防御模型加固
• 攻击提示注入

Counter-GEO-Bench：现有护栏难挡 GEO 虚假信息

构建 COUNTER-GEO-BENCH，评测生成式搜索中的 GEO 虚假信息防御

arXiv

2609.02316

发表

9月2日

层

应用层

场景

LLM 应用

测试

Gemma-4-31B-IT、Qwen-3.5-35B-A3B、Llama-4-Scout-17B-16E 等 11 个

• 防御检测与过滤
• 攻击提示注入
• 组件RAG
• +1+1

CodePoisonRAG：针对检索增强代码生成的知识投毒攻击

提出 CodePoisonRAG，对检索增强代码生成的知识库投毒以植入漏洞

arXiv

2609.02774

发表

9月3日

层

应用层

场景

LLM 应用

测试

Qwen 3.5 9B、Code Llama 13B、DeepSeek-Coder-V2 16B 等 4 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件RAG

论文：用投毒基准污染自改进编码 Agent，令其后续版本写出漏洞代码

提出基准投毒攻击，使自修改编码智能体跨代写出漏洞代码

arXiv

2609.17817

发表

9月16日

层

应用层

场景

编程 Agent

测试

Claude Sonnet 4.5、Qwen3.5-397B、gpt-oss-120b 等 6 个

• 攻击投毒与后门
• 技术潜伏触发

NEEDLE：通过权重正交化移除 LLM 后门

提出 NEEDLE，用权重正交化在已知触发器时去除大模型后门

arXiv

2610.00348

发表

10月2日

层

模型层

场景

模型与 API

测试

Gemma-3-4B-IT、Qwen3-4B-Instruct-2507、Gemma-3-12B-IT

• 防御模型加固
• 攻击投毒与后门
• 组件微调与开源权重

论文提出带类型溯源与断言护栏，防止持久化 AI Agent 把不可信输入当作自身历史

提出类型化溯源与断言护栏，约束持久 Agent 的自传断言释放

arXiv

2609.02127

发表

9月2日

层

应用层

场景

AI Agent

• 防御指令与数据隔离
• 攻击投毒与后门
• 组件记忆
• +2+2

MROP：针对 Deep JSCC 后门攻击的掩码区域优化净化方法

提出 MROP，在发射端推理时纯化输入以抵御训练投毒后门

arXiv

2609.00786

发表

9月1日

层

模型层

场景

模型与 API

测试

DeepJSCC、SwinJSCC

• 防御推理时干预
• 攻击投毒与后门

Provenance-Aware Transformers：用来源感知架构分离可信边界以防御间接提示注入

提出 Provenance-Aware Transformers，隔离不可信来源防御间接提示注入

arXiv

2609.21088

发表

9月18日

层

应用层

场景

LLM 应用

测试

SmolLM2-360M-Instruct、LLaMA-3-8B-Instruct、Qwen2.5-7B-Instruct 等 4 个

• 防御指令与数据隔离
• 攻击提示注入
• +1+1