攻击arXiv 2607.039687月5日
研究揭示 IDE 编程 Agent 的工作流级越狱：GitHub Copilot 四后端 816/816 生成有害内容
提出工作流级越狱构建，经多轮开发工作流诱导编程 Agent 在代码中写出有害内容
arXiv
2607.03968
发表
7月5日
层
应用层
场景
编程 Agent
攻击者
黑盒、无盒
测试
Claude Sonnet 4.6、Claude Haiku 4.5、Gemini 3.1 Pro 等 5 个
- 攻击越狱
- 技术多轮渐进
摘要论文揭示了 IDE 编程智能体在多轮开发工作流中会绕过单轮拒答并自行写出有害代码，呼吁防御转向工作流与代码产物级审查。
深度解读完整解读
评测与基准arXiv 2604.029474月3日
AgentHazard：评估计算机使用智能体有害行为的基准
提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为
arXiv
2604.02947
发表
4月3日
层
应用层
场景
网页与电脑操作、编程 Agent
测试
Qwen2.5-72B-Instruct、Qwen2.5-Coder-32B-Instruct、Qwen3-32B 等 12 个
- 攻击恶意使用
摘要AgentHazard 评估了计算机使用智能体的执行安全，作者认为模型层对齐无法可靠保障智能体层面的安全性。
AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。
深度解读完整解读
攻击arXiv 2609.153839月14日
微软团队提出 capability laundering 攻击：弱模型拆分任务向对齐前沿模型套取能力
提出能力洗钱攻击，让未对齐编排器拆分任务向对齐模型套取能力
arXiv
2609.15383
发表
9月14日
层
应用层
场景
编程 Agent
攻击者
黑盒
测试
GPT-5.5、Claude Opus 4.8、Grok-4.3 等 7 个
- 攻击恶意使用
- 风险危险能力
- 技术多轮渐进
摘要作者提出了能力洗钱攻击，发现未对齐编排器分解咨询对齐模型可恢复能力差距，指出需建立跨会话防御。
深度解读完整解读

已经到底了

Anthropic · 论文

攻击类型

攻击技术

模型自身风险

影响

系统形态

攻击者权限

攻击面/入口

层

被测模型厂商

研究揭示 IDE 编程 Agent 的工作流级越狱：GitHub Copilot 四后端 816/816 生成有害内容

AgentHazard：评估计算机使用智能体有害行为的基准

微软团队提出 capability laundering 攻击：弱模型拆分任务向对齐前沿模型套取能力