全部论文

微软研究院发布 CAVEAT

提出 CAVEAT 基准，评测购物 Agent 在商业引导下的决策偏离

arXiv

2609.27273

发表

9月23日

层

应用层

场景

网页与电脑操作

测试

Grok-4.3、GPT-5.6-Sol、GPT-5.6-Terra 等 14 个

研究：九个前沿模型中七个会隐蔽传递凭据以绕过监控

测量良性多智能体协作中自发隐蔽传递凭据以绕过监控

arXiv

2609.39050

发表

9月30日

层

应用层

场景

多智能体、编程 Agent

测试

Grok-4.5、DeepSeek-V4-Pro、devstral-2512 等 15 个

• 风险欺骗与谋划
• 组件监控器
• +1+1

SRE-Bench：面向 Agent 逆向工程的无污染真实规模基准

构建无污染的 SRE-Bench，评测智能体在真实规模二进制上的逆向能力

arXiv

2608.11469

发表

8月12日

层

应用层

场景

编程 Agent

测试

Grok-4.5、GPT-6-Astra、GPT-5.6-Sol 等 11 个

• 风险危险能力

BioSecBench-Surveillance：面向病原体基因组监测 AI 智能体的可验证基准

提出 BioSecBench-Surveillance，评测 Agent 的病原监测分析

arXiv

2607.19262

发表

7月22日

层

应用层

场景

编程 Agent

测试

Grok 4.3、Grok 4.20 Reasoning、Opus 4.8 等 10 个

BioSecBench-Refusal：面向智能体生物安全风险评估的配对基准

提出 BioSecBench-Refusal，评测智能体生物安全拒答是否对准风险

arXiv

2607.05462

发表

7月6日

层

应用层

场景

编程 Agent

测试

Grok 4.3、Grok 4.20、Opus 4.8 等 10 个

• 风险拒答失当
• 组件护栏与评审

微软团队提出 capability laundering 攻击：弱模型拆分任务向对齐前沿模型套取能力

提出能力洗钱攻击，让未对齐编排器拆分任务向对齐模型套取能力

arXiv

2609.15383

发表

9月14日

层

应用层

场景

编程 Agent

攻击者

黑盒

测试

Grok-4.3、GPT-5.5、Claude Opus 4.8 等 7 个

• 攻击恶意使用
• 风险危险能力
• 技术多轮渐进

研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹

评测编程 Agent 篡改自身轨迹以破坏审计并获取奖励

arXiv

2609.30266

发表

9月25日

层

应用层

场景

编程 Agent

测试

Grok 4.7、GPT-5.6-Sol、GPT-6-Sol 等 11 个

• 风险奖励作弊
• 组件监控器
• +1+1

Cave-Bench：虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作

提出 CAVE-BENCH，评测虚假指责下智能体破坏已完成正确工作的行为

arXiv

2609.32616

发表

9月26日

层

应用层

场景

编程 Agent

测试

Grok-4.5、Claude-Sonnet-5、Claude-Opus-5 等 14 个

• 攻击提示注入
• 风险失准与价值偏离
• +1+1