Agent 安全 · 论文

微软研究院发布 CAVEAT

提出 CAVEAT 基准，评测电商引导下购物智能体是否偏离用户最优选择

arXiv

2609.27273

发表

9月23日

层

应用层

场景

网页与电脑操作

测试

Qwen3.5-122B-A10B、Qwen3.5-27B、GPT-5.6-Sol 等 14 个

CredLeak-Bench

提出 CredLeak-Bench，评测智能体在钓鱼场景下的凭据泄露

arXiv

2610.08871

发表

10月6日

层

应用层

场景

网页与电脑操作

测试

Qwen3.5-9B、Claude Sonnet 5、Claude Opus 4.8 等 7 个

论文提出 eTAMP 攻击：网页内容注入可跨会话污染 Web Agent 记忆

提出 eTAMP，通过网页注入跨会话污染 Web 智能体轨迹记忆

arXiv

2604.02623

发表

4月

层

应用层

场景

网页与电脑操作

测试

Qwen2.5-VL-72B、Qwen3-VL-32B、Qwen3.5-122B-A10B 等 7 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +1+1

WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作

提出 WebMirage，用对抗图像劫持视觉网页智能体的浏览器操作

arXiv

2610.09240

发表

10月7日

层

应用层

场景

网页与电脑操作

测试

Qwen2-VL-7B、LLaVA-v1.5-13B、LLaVA-v1.6-34B 等 6 个

• 攻击提示注入
• 技术跨模态载荷
• 组件视觉
• +1+1

DIBench：面向移动 GUI 智能体多候选选择决策完整性的安全基准

提出 DIBench，评测界面注入对移动智能体选择决策的操纵

arXiv

2610.06898

发表

9月29日

层

应用层

场景

网页与电脑操作

测试

Qwen2.5-VL(32B)、Qwen3-VL(32B)、GUI-Owl(32B) 等 7 个

• 攻击提示注入
• 技术跨模态载荷
• 组件视觉

AgentHazard：评估计算机使用智能体有害行为的基准

提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为

arXiv

2604.02947

发表

4月3日

层

应用层

场景

网页与电脑操作、编程 Agent

测试

Qwen2.5-72B-Instruct、Qwen2.5-Coder-32B-Instruct、Qwen3-32B 等 12 个

• 攻击恶意使用

SCOPE：训练有能力且安全的计算机使用智能体

提出 SCOPE 联合后训练计算机使用智能体的任务执行与安全决策

arXiv

2609.22178

发表

8月27日

层

应用层

场景

网页与电脑操作

测试

Qwen3.5-9B、Qwen3.7-Plus、Qwen3-VL-8B 等 14 个

• 防御模型加固
• 攻击提示注入

AgentLSD：在对抗性任务污染下评测 AI 安全 Agent

用 AgentLSD 评测安全 Agent 在对抗任务污染下的解题与开销

arXiv

2609.19140

发表

9月17日

层

应用层

场景

网页与电脑操作

测试

Qwen3-Coder-Next、Gemma-4 31B、DeepSeek-V4 Flash 等 6 个

• 攻击提示注入

OSWorld-Science：面向科学软件学习与使用的计算机操作智能体基准

提出 OSWorld-Science 评测计算机使用智能体的科学软件操作能力

arXiv

2609.39903

发表

9月30日

层

应用层

场景

网页与电脑操作

测试

Qwen3.7-Plus、Qwen-CUA、Claude Fable 5.1 等 12 个

Box² Bench：语言模型能否有选择地依赖外部指导

提出 Box2-Bench，评测模型能否选择性依赖外部工作流

arXiv

2609.39578

发表

9月30日

层

应用层

场景

网页与电脑操作、编程 Agent

测试

Qwen3-0.6B、Qwen3-4B、Qwen3-8B 等 9 个

AgentTell：浏览器 Agent 的行为侧信道泄漏基准

构建 AGENTTELL 基准，测量浏览器智能体跨站行为侧信道泄露

arXiv

2609.32915

发表

9月26日

层

应用层

场景

网页与电脑操作

测试

Qwen3-VL 235B、Claude Sonnet 5、Gemini 3.7 Flash 等 6 个

• 风险Agent 危险操作

SynChain：诱导计算机使用 Agent 自建攻击链并跨任务持久化

提出 SYNCHAIN，以定向微调诱导智能体自合成跨任务潜伏工件

arXiv

2608.06862

发表

8月7日

层

应用层

场景

网页与电脑操作、编程 Agent

测试

Qwen3.5-9B、Qwen3.5-8B、Llama-3.1-8B 等 5 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件MCP 与技能
• +3+3

HazardAuditor：面向计算机使用 Agent 的执行级安全护栏框架

提出 HazardAuditor 与 GuardPO，训练计算机使用智能体的运行时守卫

arXiv

2609.15134

发表

9月14日

层

应用层

场景

网页与电脑操作、编程 Agent

测试

Qwen3Guard-Gen-8B、BraveGuard-Qwen3-Guard-8B、AgentDoG-Qwen2.5-8B 等 15 个

• 防御监控与审计
• 风险Agent 危险操作
• 组件监控器

可验证行动卡片 VAC：为智能体浏览器提供可信人在回路确认

提出 VAC，用真实操作参数与来源隔离保护智能体浏览器确认

arXiv

2609.18411

发表

9月16日

层

应用层

场景

网页与电脑操作

测试

Qwen3-32B、Qwen3.6-27B、gpt-oss-120b 等 6 个

• 防御权限与审批
• 攻击提示注入
• 组件权限与沙箱
• +1+1

窄域多模态微调可诱发涌现性失配，覆盖 15 个视觉语言模型

发现无显式危害的窄域图文微调可诱发涌现失准

arXiv

2609.35291

发表

9月28日

层

模型层

场景

网页与电脑操作

测试

Qwen3-VL-4B、Qwen3-VL-8B、Qwen3-VL-32B 等 15 个

• 风险失准与价值偏离
• 组件视觉
• +2+2

EngiWorld 基准发布：前沿 Agent 在专业工程环境中最高仅得 44.3 分

提出 EngiWorld 基准，评测 Agent 在专业工程软件中走完设计闭环的能力

arXiv

2609.37686

发表

9月29日

层

应用层

场景

网页与电脑操作

测试

Qwen 3.8 Max、Qwen 3.8 Flash (XHigh)、Claude Opus 5 (Max) 等 7 个

CONFLICTGUI 基准与 CONFLICTGUARD 框架：让多模态 GUI Agent 学会在冲突指令下终止执行

AI 导读作者提出 CONFLICTGUI 基准，覆盖指令内部冲突与指令和 GUI 上下文冲突两类场景，用于研究 GUI Agent 的冲突感知终止能力。

arXiv

2609.03438

发表

9月3日

层

应用层

场景

网页与电脑操作

测试

Qwen3-VL-4B-Instruct、Qwen3-VL-8B-Instruct、Qwen3-VL-32B-Instruct 等 10 个

• 防御推理时干预
• 风险Agent 危险操作
• 组件视觉

MATE：面向移动 Agent 的策略感知安全审计方法

提出策略条件轨迹审计器 MATE，判断移动 Agent 是否违反可编辑安全策略

arXiv

2609.22724

发表

9月19日

层

应用层

场景

网页与电脑操作

攻击者

黑盒

测试

Qwen2.5-0.5B-Instruct、Qwen2.5-1.5B-Instruct、Qwen2.5-3B-Instruct 等 8 个

• 防御监控与审计
• 攻击恶意使用
• 风险Agent 危险操作
• 组件监控器