评测与基准arXiv 2610.0516310月4日
研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准
提出路径对齐归因 PAA，在边界动作前审计长流程智能体的分段提示注入
arXiv
2610.05163
发表
10月4日
层
应用层
场景
编程 Agent
测试
Claude Code (v2.1.172, Claude Sonnet 5)、Codex CLI (v0.144.0, GPT-5.5)、Claude Sonnet 5 等 7 个
- 防御监控与审计
- 攻击提示注入
- 组件监控器
摘要论文针对长流程注入提出边界动作审计与 PAA，在保持低误阻的同时实现高拦截率。
本研究针对长流程智能体在执行任务时面临的分阶段间接提示注入威胁，提出了在动作生效前进行拦截的边界动作审计框架与路径对齐归因方法。
深度解读完整解读
评测与基准arXiv 2604.029474月3日
AgentHazard：评估计算机使用智能体有害行为的基准
提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为
arXiv
2604.02947
发表
4月3日
层
应用层
场景
网页与电脑操作、编程 Agent
测试
Qwen2.5-72B-Instruct、Qwen2.5-Coder-32B-Instruct、Qwen3-32B 等 12 个
- 攻击恶意使用
摘要AgentHazard 评估了计算机使用智能体的执行安全，作者认为模型层对齐无法可靠保障智能体层面的安全性。
AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。
深度解读完整解读
评测与基准arXiv 2609.097989月9日
CS-Guard：首个面向代码生成安全的 LLM 护栏评测基准
提出 CS-Guard 基准与虚构场景攻击，评测代码生成护栏
arXiv
2609.09798
发表
9月9日
层
应用层
场景
编程 Agent
攻击者
黑盒
测试
CodeLlama-13B-Instruct、DeepSeekCoder-V2-Lite-16B、GPT-OSS-20B 等 7 个
- 攻击越狱
- 技术角色扮演与说服
- 组件护栏与评审
摘要论文提出了代码安全护栏基准 CS-Guard，评估发现现有护栏对虚构场景攻击和代码级恶意请求防御较弱。
深度解读完整解读
评测与基准arXiv 2609.326169月26日
Cave-Bench：虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作
提出 CAVE-BENCH，评测虚假指责下智能体破坏已完成正确工作的行为
arXiv
2609.32616
发表
9月26日
层
应用层
场景
编程 Agent
测试
Claude-Sonnet-5、Claude-Opus-5、GPT-5.6-Sol 等 14 个
- 攻击提示注入
- 风险失准与价值偏离
摘要论文提出了评估智能体在虚假指责下破坏已有正确成果的 CAVE-BENCH，发现强模型易推翻已知证据，提出了门控缓解方案。
深度解读完整解读
评测与基准arXiv 2609.289159月24日
研究提出 ACE 语料库，评估内核级证据对 Agent 安全检测的有效性
构建 ACE 语料并比较内核与应用层证据的攻击检测效果
arXiv
2609.28915
发表
9月24日
层
应用层
场景
编程 Agent
测试
AdaBoost、XGBoost、TabPFN 等 13 个
- 防御监控与审计
- 攻击提示注入
- 组件监控器
摘要ACE 用配对的内核与应用层证据表明，syscall 痕迹可判别智能体攻击，两层组合通常更好。
ACE 是一份把智能体会话的内核 syscall 痕迹与应用层清单、转录配对起来的检测语料和基准。。
深度解读完整解读

已经到底了

全部论文

攻击类型

攻击技术

模型自身风险

防御类型

影响

系统形态

攻击者权限

攻击面/入口

层

系统组件

被测模型厂商

研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准

AgentHazard：评估计算机使用智能体有害行为的基准

CS-Guard：首个面向代码生成安全的 LLM 护栏评测基准

Cave-Bench：虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作

研究提出 ACE 语料库，评估内核级证据对 Agent 安全检测的有效性