评测与基准arXiv 2610.07639
HarnessSecurity-Bench 横向评测六款编码智能体框架的安全机制
评测编码智能体 harness 安全机制在对抗任务中的防护效果
- arXiv
- 2610.07639
- 发表
- 层
- 应用层
- 评测与基准arXiv 2610.04378
COPEX：面向 MCP 智能体的受控攻击评测基准发布
提出 COPEX 基准，评测 MCP 智能体对多入口攻击的抵抗力
- arXiv
- 2610.04378
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- Claude Opus 4.7、Claude Sonnet 4.6、GPT-5.5 等9个
- 评测与基准arXiv 2610.03153
EvoRiskBench：面向工作区 Agent 运行时安全风险的演化基准
构建 EvoRiskBench 评测工作区 Agent 的运行时安全风险
- arXiv
- 2610.03153
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- GPT-5.6 Sol、DeepSeek-V4-Pro-0813、Claude Opus 5
摘要论文构建了工作空间智能体运行时风险基准 EvoRiskBench，发现高执行力智能体在 IPI 下面临较高安全风险。
- 评测与基准arXiv 2609.35912
MMSkillRisk：多模态技能图像中的隐藏指令可诱导 Agent 执行未授权操作
提出 MMSkillRisk 基准，评测多模态技能图像中的隐藏指令诱导 Agent 越权操作
- arXiv
- 2609.35912
- 发表
- 层
- 应用层
- 被测模型
- GPT-5.6-sol、Kimi-K2.6、Kimi-K3 等6个
摘要论文提出 MMSkillRisk 基准与 NCVA 攻击，揭示多模态技能中教学图像潜藏指令可引发未授权操作并与良性任务共存。
- 评测与基准arXiv 2609.32635
TrustFork：显示身份如何劫持 LLM 智能体编排的权限
提出 TRUSTFORK 基准，评测展示身份劫持多智能体编排权限
- arXiv
- 2609.32635
- 发表
- 层
- 应用层
- 被测模型
- GPT-5.6-Sol、GPT-5.6-Luna、Kimi-K3 等8个
- 攻击提示注入
摘要论文提出了多智能体安全基准 TRUSTFORK，揭示展示身份如何劫持操作权威，并证明事后验证无法弥补已发生的执行破坏。
- 评测与基准arXiv 2609.30383
研究者提出技能级联攻击
提出技能级联攻击，把有害目标拆散到多个技能里绕过单技能扫描
- arXiv
- 2609.30383
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- GPT-5.4、GPT-5.4 Mini、Claude Opus 4.6 等11个
摘要论文探讨了多技能智能体系统面临的技能级联攻击风险，提出自动化红队框架与基准集，指出跨技能交互存在安全防护盲区。
- 评测与基准arXiv 2609.24662
DUMA-Bench：评估 LLM Agent 安全的双控多智能体基准
提出双控多智能体基准 DUMA-Bench，测量对抗环境下的策略违反
- arXiv
- 2609.24662
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 被测模型
- GPT-5、GPT-5-mini、GPT-5-nano 等14个
- 攻击提示注入
摘要DUMA-Bench 用双控交互评测智能体安全。
DUMA-Bench 把 τ²-bench 的双控交互做成智能体安全评测，用来看策略违反如何随用户、模型和环境一起出现。
- 评测与基准arXiv 2608.30441
ECLIPSE：针对长程 Agent 系统的自演化隐蔽提示注入攻击
提出 ECLIPSE 双通道提示注入，劫持长程 Agent 的动作轨迹
- arXiv
- 2608.30441
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- DeepSeek、GPT-4o、Claude 4.8 Opus 等7个
- 评测与基准arXiv 2607.20121
OpenSkillRisk：评测 Agent 使用真实世界高风险第三方技能时的安全性
构建 OpenSkillRisk 评测编程 Agent 使用真实高风险第三方技能的安全性
- arXiv
- 2607.20121
- 发表
- 层
- 应用层
- 被测模型
- GPT-5.1 Codex Mini、GPT-5.3 Codex、GPT-5.4 等13个
- 评测与基准arXiv 2607.13987
Agent 技能安全：威胁模型、攻击、防御与评估
用 SkillSec-Eval 评测 Agent 技能全生命周期安全
- arXiv
- 2607.13987
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- Gemini 3.1 pro、Gemini 1.5 Flash
摘要SkillSec-Eval 按五个信任边界评测可复用技能，作者称单点防御不足以覆盖全生命周期。
SkillSec-Eval 按信任边界评测可复用智能体技能，而不是只看提示注入或单次执行。技能被共享后，元数据、权限、工作流和版本可独立于底层模型变化。作者要回答的是：恶意技能能否在准入、检索、规划、执行或更新阶段穿过未经验证的信任边界。
- 评测与基准arXiv 2606.15899
SkillVetBench：用 LLM-as-Judge 评估开源 LLM Agent 技能的多维安全风险
提出 SkillVetBench 评估开源 Agent 技能的多维安全风险
- arXiv
- 2606.15899
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- Qwen2.5-14B-Instruct、Qwen2.5-32B、Llama-3.1-70B 等6个
摘要公开排行榜用 LLM-as-Judge 给技能分列 SARS 与 CVSS，并对照市场官方审查。
- 评测与基准arXiv 2605.17380
Uber 提出 ADR 企业级 Agent 检测系统，在 7200 台主机部署十个月
提出企业级检测系统 ADR，识别编程 Agent 的提示注入与恶意 MCP
- arXiv
- 2605.17380
- 发表
- 层
- 应用层
摘要提出了端点因果遥测、两级在线分流与离线红队闭环的 ADR 系统，并在生产环境中验证了有效性。
- 评测与基准arXiv 2604.01438
ClawSafety：安全的 LLM，不安全的 Agent
提出 ClawSafety，评测个人智能体读到对抗工件后是否执行有害动作
- arXiv
- 2604.01438
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- Claude Sonnet 4.6、GPT-5.1、Gemini 2.5 Pro 等5个
- 评测与基准arXiv 2601.05755
VIGIL：以「先验证后提交」防御 LLM 智能体的工具流注入
提出 VIGIL 先验证后提交，防御 Agent 工具流注入
- arXiv
- 2601.05755
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- Qwen3-max、Gemini-2.5-pro
摘要VIGIL 用意图约束下的提交前验证处理工具流注入。
VIGIL 用 verify-before-commit 处理智能体的工具流注入，并配有基准 SIREN。
已经到底了