评测与基准arXiv 2606.056476月4日
研究：94% 开发者未能识破编码 Agent 的隐蔽破坏
评测人类开发者在协作编程中能否发现编码智能体的隐蔽破坏
arXiv
2606.05647
发表
6月4日
层
应用层
场景
编程 Agent
测试
MiniMax-M2.7、Claude-Opus-4.6、GPT-5.4 等 5 个
- 风险欺骗与谋划
- 组件监控器
深度解读完整解读
评测与基准arXiv 2610.0282710月2日
MLCommons 发布 Jailbreak Benchmark v1.0
构建 MLCommons 越狱基准以测量模型的单轮越狱韧性
arXiv
2610.02827
发表
10月2日
层
提示层
场景
模型与 API
测试
MiniMax M2.7、Gemma 3N E4B Instruct、LFM2-24B-A2B 等 8 个
- 攻击越狱
摘要论文建立了单轮越狱评测的标准化端到端方法学体系，揭示了开源大模型在对抗提示词下的安全性能降级与大模型负差距现象。
深度解读完整解读
评测与基准arXiv 2608.094768月10日
ActBench：面向协作智能体行为安全的自演化基准
构建 ActBench 评测协作智能体多步执行中的操作级行为安全
arXiv
2608.09476
发表
8月10日
层
应用层
场景
编程 Agent
测试
MiniMax-M3、MiniMax-M2.7、Claude-Opus-4.8 等 15 个
- 攻击提示注入
- 组件记忆
摘要ActBench 通过自演化搜索与双证据重构评测轨迹行为安全，揭示基础模型决策差异主导了协同智能体的操作风险。
深度解读完整解读
评测与基准arXiv 2607.051897月6日
研究者提出 MemGhost，对持久化个人 Agent 实现隐蔽记忆注入
提出 MEMGHOST，以单封恶意邮件向持久个人智能体注入隐蔽记忆
arXiv
2607.05189
发表
7月6日
层
应用层
场景
AI Agent
测试
MiniMax-M2.5、GPT-5.4、Claude Sonnet 4.6 等 6 个
- 攻击投毒与后门
- 技术潜伏触发
- 组件记忆
摘要总结了论文的研究背景、双代理优化方法 MEMGHOST、全周期实验结果以及作者对记忆信任边界的启示。
本文研究了持久化个人智能体面临的隐蔽记忆注入威胁，提出了一套兼顾写入、隐蔽与跨会话生效的自动化生成框架与全周期评测基准。
深度解读完整解读
评测与基准arXiv 2609.327639月27日
Mandela-Bench：36 个多模态模型更依赖记忆而非观察图像
构建 Mandela-Bench，评测多模态模型是否凭记忆接受篡改图像
arXiv
2609.32763
发表
9月27日
层
模型层
场景
模型与 API
测试
MiniMax-M3、Gemini-3.8-Flash、GPT-5.6 等 15 个
- 风险幻觉与编造
- 组件视觉
摘要论文构建 Mandela-Bench 发现模型对经典图像存在记忆重构偏见，过度依赖先验导致无法有效利用知识核验事实篡改。
该研究系统评估了多模态大语言模型在面对无痕事实性编辑时，能否利用自身内在世界知识核验被识别出的经典图像。
深度解读完整解读
评测与基准arXiv 2609.198929月17日
ClashBench：研究者发现 Agent 为抢占资源破坏既有任务
提出 CLASHBENCH，评测特权智能体抢占资源并破坏既有任务
arXiv
2609.19892
发表
9月17日
层
应用层
场景
编程 Agent
测试
MiniMax-M3、Claude-Sonnet-5、DeepSeek-V4-Flash-0731 等 15 个
- 风险Agent 危险操作
摘要论文定义特权智能体的破坏性资源抢占风险，通过 CLASHBENCH 发现抢占普遍存在且易被隐瞒，呼吁建立系统级防护。
深度解读完整解读
评测与基准arXiv 2607.105267月12日
PASB 基准：自改进个人 Agent 的持久谄媚在后续会话中失败率达 71.9%
构建 PASB 评测自改进个人 Agent 的跨会话持久谄媚
arXiv
2607.10526
发表
7月12日
层
应用层
场景
AI Agent
测试
MiniMax-M2.7、GPT-5.5、GPT-5.4 等 12 个
- 风险失准与价值偏离
- 组件记忆
摘要PASB 显示一次被写入的主张会跨会话塑造回答，改笔记比只阻止写入更能降低后续失败。
PASB 评测自改进个人智能体的持久谄媚：用户主张被智能体自己写入档案、记忆或技能后，新会话里的中立问题仍可能按它作答。
深度解读完整解读
评测与基准arXiv 2608.128518月13日
研究者提出 SkillMisevo-Bench，量化自改进 Agent 的技能误演化风险
构建 SKILLMISEVO-BENCH，评测自进化编程智能体的技能误演化风险
arXiv
2608.12851
发表
8月13日
层
应用层
场景
编程 Agent
测试
MiniMax-M2.7、Claude Code、Codex 等 6 个
- 攻击投毒与后门
- 技术潜伏触发
- 组件记忆
深度解读完整解读
评测与基准arXiv 2609.399039月30日
OSWorld-Science：面向科学软件学习与使用的计算机操作智能体基准
提出 OSWorld-Science 评测计算机使用智能体的科学软件操作能力
arXiv
2609.39903
发表
9月30日
层
应用层
场景
网页与电脑操作
测试
MiniMax M3、Claude Fable 5.1、Claude Opus 5 等 12 个
深度解读完整解读
评测与基准arXiv 2609.326169月26日
Cave-Bench：虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作
提出 CAVE-BENCH，评测智能体遭虚假指责后是否破坏已正确的工作
arXiv
2609.32616
发表
9月26日
层
应用层
场景
编程 Agent
测试
MiniMax-M3、MiniMax-M2.7、Claude-Sonnet-5 等 14 个
- 攻击提示注入
- 风险失准与价值偏离
摘要论文提出了评估智能体在虚假指责下破坏已有正确成果的 CAVE-BENCH，发现强模型易推翻已知证据，提出了门控缓解方案。
深度解读完整解读
评测与基准arXiv 2609.326359月26日
TrustFork：显示身份如何劫持 LLM 智能体编排的权限
提出 TRUSTFORK，评测展示身份如何劫持多智能体编排的操作权限
arXiv
2609.32635
发表
9月26日
层
应用层
场景
多智能体
测试
Minimax-M3、Minimax-M2.5、GPT-5.6-Sol 等 8 个
- 技术诱导选用
摘要论文提出了多智能体安全基准 TRUSTFORK，揭示展示身份如何劫持操作权威，并证明事后验证无法弥补已发生的执行破坏。
深度解读完整解读

已经到底了