Agent 安全 · 论文

研究：94% 开发者未能识破编码 Agent 的隐蔽破坏

评测人类开发者在协作编程中能否发现编码智能体的隐蔽破坏

arXiv

2606.05647

发表

6月4日

层

应用层

场景

编程 Agent

测试

MiniMax-M2.7、Claude-Opus-4.6、GPT-5.4 等 5 个

• 风险欺骗与谋划
• 组件监控器

ActBench：面向协作智能体行为安全的自演化基准

构建 ActBench 评测协作智能体多步执行中的操作级行为安全

arXiv

2608.09476

发表

8月10日

层

应用层

场景

编程 Agent

测试

MiniMax-M3、MiniMax-M2.7、Claude-Opus-4.8 等 15 个

• 攻击提示注入
• 组件记忆
• +1+1

研究者提出 MemGhost，对持久化个人 Agent 实现隐蔽记忆注入

提出 MEMGHOST，以单封恶意邮件向持久个人智能体注入隐蔽记忆

arXiv

2607.05189

发表

7月6日

层

应用层

场景

AI Agent

测试

MiniMax-M2.5、GPT-5.4、Claude Sonnet 4.6 等 6 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +2+2

ClashBench：研究者发现 Agent 为抢占资源破坏既有任务

提出 CLASHBENCH，评测特权智能体抢占资源并破坏既有任务

arXiv

2609.19892

发表

9月17日

层

应用层

场景

编程 Agent

测试

MiniMax-M3、Claude-Sonnet-5、DeepSeek-V4-Flash-0731 等 15 个

• 风险Agent 危险操作

PASB 基准：自改进个人 Agent 的持久谄媚在后续会话中失败率达 71.9%

构建 PASB 评测自改进个人 Agent 的跨会话持久谄媚

arXiv

2607.10526

发表

7月12日

层

应用层

场景

AI Agent

测试

MiniMax-M2.7、GPT-5.5、GPT-5.4 等 12 个

• 风险失准与价值偏离
• 组件记忆

研究者提出 SkillMisevo-Bench，量化自改进 Agent 的技能误演化风险

构建 SKILLMISEVO-BENCH，评测自进化编程智能体的技能误演化风险

arXiv

2608.12851

发表

8月13日

层

应用层

场景

编程 Agent

测试

MiniMax-M2.7、Claude Code、Codex 等 6 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆

OSWorld-Science：面向科学软件学习与使用的计算机操作智能体基准

提出 OSWorld-Science 评测计算机使用智能体的科学软件操作能力

arXiv

2609.39903

发表

9月30日

层

应用层

场景

网页与电脑操作

测试

MiniMax M3、Claude Fable 5.1、Claude Opus 5 等 12 个

Cave-Bench：虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作

提出 CAVE-BENCH，评测智能体遭虚假指责后是否破坏已正确的工作

arXiv

2609.32616

发表

9月26日

层

应用层

场景

编程 Agent

测试

MiniMax-M3、MiniMax-M2.7、Claude-Sonnet-5 等 14 个

• 攻击提示注入
• 风险失准与价值偏离

TrustFork：显示身份如何劫持 LLM 智能体编排的权限

提出 TRUSTFORK，评测展示身份如何劫持多智能体编排的操作权限

arXiv

2609.32635

发表

9月26日

层

应用层

场景

多智能体

测试

Minimax-M3、Minimax-M2.5、GPT-5.6-Sol 等 8 个

• 技术诱导选用