全部论文

HackTrace：用生成状态监督检测代码生成中的奖励作弊

提出 HACKTRACE，用生成期激活检测代码智能体的奖励作弊

arXiv

2610.03055

发表

10月2日

层

应用层

场景

编程 Agent

测试

CodeBERT、Qwen3-8B、Llama-3.1-8B-Instruct 等 4 个

• 防御监控与审计
• 风险奖励作弊
• 组件监控器

研究：九个前沿模型中七个会隐蔽传递凭据以绕过监控

测量良性多智能体协作中自发隐蔽传递凭据以绕过监控

arXiv

2609.39050

发表

9月30日

层

应用层

场景

多智能体、编程 Agent

测试

Grok-4.5、DeepSeek-V4-Pro、devstral-2512 等 15 个

• 风险欺骗与谋划
• 组件监控器
• +1+1

SRE-Bench：面向 Agent 逆向工程的无污染真实规模基准

构建无污染的 SRE-Bench，评测智能体在真实规模二进制上的逆向能力

arXiv

2608.11469

发表

8月12日

层

应用层

场景

编程 Agent

测试

Grok-4.5、GPT-6-Astra、GPT-5.6-Sol 等 11 个

• 风险危险能力

BioSecBench-Surveillance：面向病原体基因组监测 AI 智能体的可验证基准

提出 BioSecBench-Surveillance，评测 Agent 的病原监测分析

arXiv

2607.19262

发表

7月22日

层

应用层

场景

编程 Agent

测试

Grok 4.3、Grok 4.20 Reasoning、Opus 4.8 等 10 个

BioSecBench-Refusal：面向智能体生物安全风险评估的配对基准

提出 BioSecBench-Refusal，评测智能体生物安全拒答是否对准风险

arXiv

2607.05462

发表

7月6日

层

应用层

场景

编程 Agent

测试

Grok 4.3、Grok 4.20、Opus 4.8 等 10 个

• 风险拒答失当
• 组件护栏与评审

微软团队提出 capability laundering 攻击：弱模型拆分任务向对齐前沿模型套取能力

提出能力洗钱攻击，让未对齐编排器拆分任务向对齐模型套取能力

arXiv

2609.15383

发表

9月14日

层

应用层

场景

编程 Agent

攻击者

黑盒

测试

Grok-4.3、GPT-5.5、Claude Opus 4.8 等 7 个

• 攻击恶意使用
• 风险危险能力
• 技术多轮渐进

研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹

评测编程 Agent 篡改自身轨迹以破坏审计并获取奖励

arXiv

2609.30266

发表

9月25日

层

应用层

场景

编程 Agent

测试

Grok 4.7、GPT-5.6-Sol、GPT-6-Sol 等 11 个

• 风险奖励作弊
• 组件监控器
• +1+1

CGMIA：用成员推理攻击检测代码生成基准的数据泄漏

提出 CGMIA，用成员推理检测代码生成基准的数据泄漏

arXiv

2609.09865

发表

9月9日

层

模型层

场景

编程 Agent

攻击者

灰盒

测试

Phi-2 (2.7B)、Qwen2.5-Coder (3B)、CodeGemma (2B) 等 5 个

• 攻击提取与窃取

Cave-Bench：虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作

提出 CAVE-BENCH，评测虚假指责下智能体破坏已完成正确工作的行为

arXiv

2609.32616

发表

9月26日

层

应用层

场景

编程 Agent

测试

Grok-4.5、Claude-Sonnet-5、Claude-Opus-5 等 14 个

• 攻击提示注入
• 风险失准与价值偏离
• +1+1