攻击arXiv 2607.039687月5日
研究揭示 IDE 编程 Agent 的工作流级越狱：GitHub Copilot 四后端 816/816 生成有害内容
提出工作流级越狱构建，经多轮开发工作流诱导编程 Agent 在代码中写出有害内容
arXiv
2607.03968
发表
7月5日
层
应用层
场景
编程 Agent
攻击者
黑盒、无盒
测试
Claude Sonnet 4.6、Claude Haiku 4.5、Gemini 3.1 Pro 等 5 个
- 攻击越狱
- 技术多轮渐进
摘要论文揭示了 IDE 编程智能体在多轮开发工作流中会绕过单轮拒答并自行写出有害代码，呼吁防御转向工作流与代码产物级审查。
深度解读完整解读
攻击arXiv 2610.0924010月7日
WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作
提出 WebMirage，用对抗图像劫持视觉网页智能体的浏览器操作
arXiv
2610.09240
发表
10月7日
层
应用层
场景
网页与电脑操作
测试
LLaVA-v1.5-13B、LLaVA-v1.6-34B、MiniCPM-o-8B 等 6 个
- 攻击提示注入
- 技术跨模态载荷
- 组件视觉
摘要论文提出了针对网络智能体的端到端视觉红队框架 WebMirage，揭示了从视觉定位到浏览器执行的安全脆弱性。
WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。
深度解读完整解读
评测与基准arXiv 2610.068989月29日
DIBench：面向移动 GUI 智能体多候选选择决策完整性的安全基准
提出 DIBench，评测界面注入对移动智能体选择决策的操纵
arXiv
2610.06898
发表
9月29日
层
应用层
场景
网页与电脑操作
测试
Qwen2.5-VL(32B)、Qwen3-VL(32B)、GUI-Owl(32B) 等 7 个
- 攻击提示注入
- 技术跨模态载荷
- 组件视觉
摘要论文提出移动智能体决策完整性基准 DIBench，发现欺诈 UI 注入诱导目标选择并推高完成率，通用防御收益不稳定。
深度解读完整解读
评测与基准arXiv 2609.097989月9日
CS-Guard：首个面向代码生成安全的 LLM 护栏评测基准
提出 CS-Guard 基准与虚构场景攻击，评测代码生成护栏
arXiv
2609.09798
发表
9月9日
层
应用层
场景
编程 Agent
攻击者
黑盒
测试
CodeLlama-13B-Instruct、DeepSeekCoder-V2-Lite-16B、GPT-OSS-20B 等 7 个
- 攻击越狱
- 技术角色扮演与说服
- 组件护栏与评审
摘要论文提出了代码安全护栏基准 CS-Guard，评估发现现有护栏对虚构场景攻击和代码级恶意请求防御较弱。
深度解读完整解读
评测与基准arXiv 2609.359129月28日
MMSkillRisk：多模态技能图像中的隐藏指令可诱导 Agent 执行未授权操作
提出 MMSkillRisk 与 NCVA，评测技能图像隐藏指令诱导的未授权操作
arXiv
2609.35912
发表
9月28日
层
应用层
场景
编程 Agent
测试
GPT-5.6-sol、Kimi-K2.6、Kimi-K3 等 6 个
- 攻击提示注入
- 技术跨模态载荷
- 组件MCP 与技能
摘要论文提出 MMSkillRisk 基准与 NCVA 攻击，揭示多模态技能中教学图像潜藏指令可引发未授权操作并与良性任务共存。
深度解读完整解读

已经到底了

全部论文

攻击类型

攻击技术

影响

系统形态

攻击者权限

攻击面/入口

层

系统组件

被测模型厂商

研究揭示 IDE 编程 Agent 的工作流级越狱：GitHub Copilot 四后端 816/816 生成有害内容

WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作

DIBench：面向移动 GUI 智能体多候选选择决策完整性的安全基准

CS-Guard：首个面向代码生成安全的 LLM 护栏评测基准

MMSkillRisk：多模态技能图像中的隐藏指令可诱导 Agent 执行未授权操作