攻击arXiv 2605.126735月12日
UC Berkeley 提出 BenchJack，自动审计 10 个 Agent 基准并发现 219 处奖励作弊缺陷
提出 BENCHJACK，自动审计智能体基准的奖励作弊缺陷
arXiv
2605.12673
发表
5月12日
层
应用层
场景
编程 Agent、网页与电脑操作
测试
Claude Code、OpenAI Codex
- 风险奖励作弊
- 组件护栏与评审
摘要论文系统揭示了智能体基准的奖励作弊隐患，提出自动化红队审计与迭代修补系统 BENCHJACK。
论文系统研究了主流 AI 智能体基准评测中的奖励作弊问题，提出了首个针对基准缺陷的自动化红队审计与生成对抗式迭代修补系统 BENCHJACK。
深度解读完整解读
防御arXiv 2610.0696610月4日
APEX：在 LLM Agent 执行边界主动防御间接提示注入
提出 APEX，在执行边界以授权契约拦截智能体间接提示注入
arXiv
2610.06966
发表
10月4日
层
应用层
场景
AI Agent
测试
DeepSeek-V4-Flash、GLM-5.2、GPT-5.6-sol 等 4 个
- 防御权限与审批
- 攻击提示注入
- 组件权限与沙箱
深度解读完整解读
防御arXiv 2610.0308910月2日
COBRA：为计算机使用 Agent 防御分支引导攻击的双 LLM 架构
提出 COBRA 双 LLM 架构，防御计算机使用智能体的分支转向攻击
arXiv
2610.03089
发表
10月2日
层
应用层
场景
网页与电脑操作
测试
gpt-5、UI-TARS-1.5-7B、claude-sonnet-5 等 6 个
- 防御指令与数据隔离
- 组件权限与沙箱
摘要提出分支转向防御架构 COBRA，通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。
深度解读完整解读
防御arXiv 2607.137167月15日
CAVA：面向智能体 AI 运行时治理的规范动作验证与证明
提出 CAVA，把异构智能体运行时事件规范成可哈希动作并绑定审批与回执
arXiv
2607.13716
发表
7月15日
层
应用层
场景
AI Agent
- 防御权限与审批
- 风险Agent 危险操作
- 组件权限与沙箱
摘要CAVA 用规范动作指纹承接异构运行时治理。
CAVA 是给异构智能体运行时用的动作语义层，用来回答“被批准和被审计的到底是哪一个动作”。
深度解读完整解读
防御arXiv 2608.300418月31日
SkillGuard：面向间接提示注入的 LLM Agent 能力限制机制
提出 SkillGuard，用可达性切断污染后通往禁止状态的技能调用
arXiv
2608.30041
发表
8月31日
层
应用层
场景
AI Agent
测试
Gemini 2.5 Flash、Llama3.3-70B
- 防御权限与审批
- 攻击提示注入
- 组件权限与沙箱
深度解读完整解读
防御arXiv 2609.149879月14日
ActGuard：面向 LLM Agent 间接提示注入的执行前动作审计框架
提出 ActGuard，在执行前审计并遮盖诱发动作偏离的间接注入
arXiv
2609.14987
发表
9月14日
层
应用层
场景
AI Agent
测试
GPT-4o-mini、Gemini-2.5-Flash、DeepSeek-V4-Flash 等 7 个
- 防御监控与审计
- 攻击提示注入
- 组件监控器
深度解读完整解读
防御arXiv 2609.184119月16日
可验证行动卡片 VAC：为智能体浏览器提供可信人在回路确认
提出 VAC，用真实操作参数与来源隔离保护智能体浏览器确认
arXiv
2609.18411
发表
9月16日
层
应用层
场景
网页与电脑操作
测试
gpt-oss-120b、Gemini-2.5-Flash、GPT-4.1 等 6 个
- 防御权限与审批
- 攻击提示注入
- 组件权限与沙箱
深度解读完整解读
攻击arXiv 2609.225109月19日
特拉维夫大学提出爆炸性提示词：条件触发的间接提示注入可绕过九款生产 Agent
提出爆炸提示词，用条件触发的间接注入延迟诱发恶意工具调用
arXiv
2609.22510
发表
9月19日
层
应用层
场景
AI Agent
测试
Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct、Qwen2.5-32B-Instruct 等 14 个
- 防御检测与过滤
- 攻击提示注入
- 技术潜伏触发
- 组件护栏与评审
摘要论文揭示了条件触发使提示注入绕过防御并在触发时执行工具，提出轻量检测器并在摄入期有效防范。
论文针对大语言模型智能体面临的间接提示注入威胁，研究了利用条件句式实现时间分离的爆炸提示词。
深度解读完整解读

已经到底了