攻击arXiv 2610.0924010月7日
WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作
提出 WebMirage，用对抗图像劫持视觉网页智能体的浏览器操作
arXiv
2610.09240
发表
10月7日
层
应用层
场景
网页与电脑操作
测试
LLaVA-v1.5-13B、LLaVA-v1.6-34B、MiniCPM-o-8B 等 6 个
- 攻击提示注入
- 技术跨模态载荷
- 组件视觉
摘要论文提出了针对网络智能体的端到端视觉红队框架 WebMirage，揭示了从视觉定位到浏览器执行的安全脆弱性。
WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。
深度解读完整解读
评测与基准arXiv 2610.068989月29日
DIBench：面向移动 GUI 智能体多候选选择决策完整性的安全基准
提出 DIBench，评测界面注入对移动智能体选择决策的操纵
arXiv
2610.06898
发表
9月29日
层
应用层
场景
网页与电脑操作
测试
Qwen2.5-VL(32B)、Qwen3-VL(32B)、GUI-Owl(32B) 等 7 个
- 攻击提示注入
- 技术跨模态载荷
- 组件视觉
摘要论文提出移动智能体决策完整性基准 DIBench，发现欺诈 UI 注入诱导目标选择并推高完成率，通用防御收益不稳定。
深度解读完整解读
风险行为arXiv 2609.352919月28日
窄域多模态微调可诱发涌现性失配，覆盖 15 个视觉语言模型
发现无显式危害的窄域图文微调可诱发涌现失准
arXiv
2609.35291
发表
9月28日
层
模型层
场景
网页与电脑操作
测试
GPT-4o、GPT-4.1、Gemini 2.5 等 15 个
- 风险失准与价值偏离
- 组件视觉
摘要证实窄多模态微调可引发全面的多渠道未对齐行为转变，揭示了后训练阶段对齐被隐蔽重塑的安全隐患。
论文系统探究了视觉-语言模型中由窄任务微调诱发的跨模态涌现未对齐（Emergent Misalignment, EM）现象。
深度解读完整解读
防御arXiv 2609.034389月3日
CONFLICTGUI 基准与 CONFLICTGUARD 框架：让多模态 GUI Agent 学会在冲突指令下终止执行
AI 导读作者提出 CONFLICTGUI 基准，覆盖指令内部冲突与指令和 GUI 上下文冲突两类场景，用于研究 GUI Agent 的冲突感知终止能力。
arXiv
2609.03438
发表
9月3日
层
应用层
场景
网页与电脑操作
测试
UI-Venus-1.5-8B、UI-TARS-1.5-7B、OS-Atlas-Base-7B 等 10 个
- 防御推理时干预
- 风险Agent 危险操作
- 组件视觉
摘要ConflictGUI 暴露 GUI 智能体的执行偏向过度服从，ConflictGuard 用条件转向提高冲突终止率。
ConflictGuard用推理时的可行性核验和条件激活转向，让 GUI 智能体在指令不可行时终止，而不是盲执行。
深度解读完整解读

已经到底了

全部论文

攻击类型

攻击技术

模型自身风险

防御类型

影响

系统形态

攻击面/入口

层

系统组件

被测模型厂商

WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作

DIBench：面向移动 GUI 智能体多候选选择决策完整性的安全基准

窄域多模态微调可诱发涌现性失配，覆盖 15 个视觉语言模型

CONFLICTGUI 基准与 CONFLICTGUARD 框架：让多模态 GUI Agent 学会在冲突指令下终止执行