Anthropic · 论文

Sleight-Bench：40 条攻击中 20 条从未被 Opus 4.6 监控发现

提出 SLEIGHT-BENCH，评测代码智能体监控器的概念盲点

arXiv

2605.16626

发表

5月

层

应用层

场景

编程 Agent

测试

Gemini 3.1 Pro、Claude Opus 4.6、Claude Opus 4.7 等 6 个

• 防御监控与审计
• 风险欺骗与谋划
• 组件监控器

HarnessSecurity-Bench 横向评测六款编码智能体框架的安全机制

提出 HarnessSecurity-Bench，横向评测编码智能体框架的安全机制

arXiv

2610.07639

发表

10月6日

层

应用层

场景

编程 Agent

测试

Qwen3.8-27B、DeepSeek V4 Flash、GLM-5.2 等 4 个

• 攻击提示注入
• 组件权限与沙箱
• +1+1

AgentHazard：评估计算机使用智能体有害行为的基准

提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为

arXiv

2604.02947

发表

4月3日

层

应用层

场景

网页与电脑操作、编程 Agent

测试

Qwen2.5-72B-Instruct、Qwen2.5-Coder-32B-Instruct、Qwen3-32B 等 12 个

• 攻击恶意使用

EvoRiskBench：面向工作区 Agent 运行时安全风险的演化基准

提出 EvoRiskBench，评测工作区智能体的运行时安全风险

arXiv

2610.03153

发表

10月2日

层

应用层

场景

编程 Agent、多智能体

测试

DeepSeek-V4-Pro-0813、GPT-5.6 Sol、Claude Opus 5

• 攻击提示注入
• 组件MCP 与技能

微软发布 Thinkingbox 沙盒与 507 任务基准，评估有状态业务流程中的 Agent 可靠性

构建 THINKINGBOX 沙盒与基准，评测有状态业务工作流中智能体的执行稳定性

arXiv

2608.19741

发表

8月20日

层

应用层

场景

AI Agent

测试

Grok-4.3、Kimi-K3、Qwen3.8-27B 等 14 个

SynChain：诱导计算机使用 Agent 自建攻击链并跨任务持久化

提出 SYNCHAIN，以定向微调诱导智能体自合成跨任务潜伏工件

arXiv

2608.06862

发表

8月7日

层

应用层

场景

网页与电脑操作、编程 Agent

测试

Qwen3.5-9B、Llama-3.1-8B、Ministral-3-8B 等 5 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件MCP 与技能
• +3+3

FAR.AI 发布 AI 安全排行榜与护栏最低标准 1.0

建立越狱原语分类与双重危害基准，评测模型抵御常见越狱的能力

arXiv

2608.03070

发表

8月4日

层

提示层

场景

模型与 API

测试

Gemini 3.1 Pro、Grok 4.5、Grok 4.3 等 8 个

• 攻击越狱
• 组件护栏与评审

EvasionBench：普通任务压力下智能体出现工具性监控规避

提出 EvasionBench，测量任务压力下智能体对同步监控的规避

arXiv

2609.30217

发表

9月25日

层

应用层

场景

AI Agent

测试

DeepSeek V4 Flash、Muse Spark 1.3、GLM 5.2 等 12 个

• 防御监控与审计
• 风险欺骗与谋划
• 组件监控器