Agent 安全 · 论文

微软研究院发布 CAVEAT

提出 CAVEAT 基准，评测购物 Agent 在商业引导下的决策偏离

arXiv

2609.27273

发表

9月23日

层

应用层

场景

网页与电脑操作

测试

GPT-5.6-Sol、GPT-5.6-Terra、GPT-5.6-Luna 等 14 个

DIBench：面向移动 GUI 智能体多候选选择决策完整性的安全基准

提出 DIBench，评测界面注入对移动智能体选择决策的操纵

arXiv

2610.06898

发表

9月29日

层

应用层

场景

网页与电脑操作

测试

Qwen2.5-VL(32B)、Qwen3-VL(32B)、GUI-Owl(32B) 等 7 个

• 攻击提示注入
• 技术跨模态载荷
• 组件视觉

SkillPoison：用成功经验投毒自进化 Agent 的技能形成

提出 SkillPoison，用局部有效的成功经验投毒自进化智能体的技能形成

arXiv

2610.07645

发表

10月6日

层

应用层

场景

AI Agent

测试

deepseek-v4-flash、Qwen V3.8 Flash、GPT-5.5

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +1+1

研究者训练出按多智能体拓扑触发的代码后门模型

提出拓扑条件后门，使模型在推断多智能体部署时向代码插入隐蔽漏洞

arXiv

2610.05793

发表

10月5日

层

训练与数据层

场景

编程 Agent、多智能体

测试

Qwen2.5-7B-Instruct、Qwen2.5-Coder-7B-Instruct

• 攻击投毒与后门
• 技术潜伏触发
• 组件微调与开源权重

SecOPD 用同策略蒸馏把自适应提示注入攻击成功率降至 9.0%

提出 SecOPD 同策略蒸馏微调，降低模型对自适应提示注入的顺从

arXiv

2608.21500

发表

8月22日

层

应用层

场景

AI Agent

测试

Qwen3.6-27B (Undefended)、Meta-SecAlign、SecOPD

• 防御模型加固
• 攻击提示注入

研究者提出 MemGhost，对持久化个人 Agent 实现隐蔽记忆注入

提出 MEMGHOST，以单封恶意邮件向持久个人智能体注入隐蔽记忆

arXiv

2607.05189

发表

7月6日

层

应用层

场景

AI Agent

测试

GPT-5.4、Claude Sonnet 4.6、Claude Sonnet 4.5 等 6 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +2+2

论文：用投毒基准污染自改进编码 Agent，令其后续版本写出漏洞代码

提出基准投毒攻击，使自修改编码智能体跨代写出漏洞代码

arXiv

2609.17817

发表

9月16日

层

应用层

场景

编程 Agent

测试

Claude Sonnet 4.5、Qwen3.5-397B、gpt-oss-120b 等 6 个

• 攻击投毒与后门
• 技术潜伏触发

论文提出带类型溯源与断言护栏，防止持久化 AI Agent 把不可信输入当作自身历史

提出类型化溯源与断言护栏，约束持久 Agent 的自传断言释放

arXiv

2609.02127

发表

9月2日

层

应用层

场景

AI Agent

• 防御指令与数据隔离
• 攻击投毒与后门
• 组件记忆
• +2+2

VirusCascade：劫持 LLM 推荐智能体的协同反思机制

提出 VirusCascade，劫持推荐智能体协同反思以定向推广物品

arXiv

2609.38270

发表

9月29日

层

应用层

场景

多智能体

测试

GPT-4o-mini、AgentCF、AgentRAG 等 8 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +1+1

Provenance-Aware Transformers：用来源感知架构分离可信边界以防御间接提示注入

提出 Provenance-Aware Transformers，隔离不可信来源防御间接提示注入

arXiv

2609.21088

发表

9月18日

层

应用层

场景

LLM 应用

测试

SmolLM2-360M-Instruct、LLaMA-3-8B-Instruct、Qwen2.5-7B-Instruct 等 4 个

• 防御指令与数据隔离
• 攻击提示注入
• +1+1