防御arXiv 2610.0516310月4日
研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准
提出 PAA 路径对齐归因，审计编程智能体边界动作前的分段提示注入
arXiv
2610.05163
发表
10月4日
层
应用层
场景
编程 Agent
测试
Claude Code (v2.1.172, Claude Sonnet 5)、Codex CLI (v0.144.0, GPT-5.5)、Claude Sonnet 5 等 7 个
- 防御监控与审计
- 攻击提示注入
- 组件监控器
摘要论文针对长流程注入提出边界动作审计与 PAA，在保持低误阻的同时实现高拦截率。
本研究针对长流程智能体在执行任务时面临的分阶段间接提示注入威胁，提出了在动作生效前进行拦截的边界动作审计框架与路径对齐归因方法。
深度解读完整解读
防御arXiv 2610.0308910月2日
COBRA：为计算机使用 Agent 防御分支引导攻击的双 LLM 架构
提出 COBRA 双 LLM 架构，防御计算机使用智能体的分支转向攻击
arXiv
2610.03089
发表
10月2日
层
应用层
场景
网页与电脑操作
测试
gpt-5、UI-TARS-1.5-7B、claude-sonnet-5 等 6 个
- 防御指令与数据隔离
- 组件权限与沙箱
摘要提出分支转向防御架构 COBRA，通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。
深度解读完整解读
防御arXiv 2608.064228月6日
CMU 研究：分片判断可避免 LLM 监督失效并抵御对抗利用
提出分片监督，将评判标准拆至独立调用以改善一致性并抵御展示攻击
arXiv
2608.06422
发表
8月6日
层
应用层
场景
LLM 应用
攻击者
黑盒
测试
Claude Opus 4.8、Claude Sonnet 4.6、Claude Opus 4.6 等 5 个
- 防御检测与过滤
- 攻击检测规避
- 组件护栏与评审
摘要论文揭示决策负载是大模型监督的独立瓶颈，提出分片与辩论机制有效分离注意力与平衡证据，在多项高难度基准上实现稳健评判。
本文系统研究了大语言模型在执行多标准监督与评判时的决策负载瓶颈及其安全风险。
深度解读完整解读
防御arXiv 2609.221788月27日
SCOPE：训练有能力且安全的计算机使用智能体
提出 SCOPE 联合后训练计算机使用智能体的任务执行与安全决策
arXiv
2609.22178
发表
8月27日
层
应用层
场景
网页与电脑操作
测试
Qwen3.5-9B、SCOPE-mid-checkpoint、SCOPE-Capability-Safety 等 14 个
- 防御模型加固
- 攻击提示注入
深度解读完整解读
防御arXiv 2609.140799月13日
SkillSecurer：检测并修补 AI Agent 技能中的提示注入漏洞
提出 SkillSecurer，检测定位并修补智能体技能中的提示注入
arXiv
2609.14079
发表
9月13日
层
应用层
场景
编程 Agent
测试
Claude Sonnet 5、Gemini 3.6 Flash、GPT-5.6 Sol 等 10 个
- 防御检测与过滤
- 攻击提示注入
- 组件MCP 与技能
深度解读完整解读
防御arXiv 2609.195879月17日
红队测试 Auto Mode：用注入与多上下文攻击绕过编码 Agent 阻断监控器
红队评估编码智能体的阻断监视器，并提出 Auto Mode++加固
arXiv
2609.19587
发表
9月17日
层
应用层
场景
编程 Agent
测试
Opus 5、Opus 4.8、Opus 4.7 等 8 个
- 防御监控与审计
- 风险欺骗与谋划
- 组件监控器
摘要系统评估生产阻断监视器在面对持续恶意智能体时的表现，提出加固防御并指明多上下文防御挑战。
深度解读完整解读

已经到底了

红队 · 论文

攻击类型

模型自身风险

防御类型

影响

系统形态

攻击者权限

攻击面/入口

层

系统组件

被测模型厂商

研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准

COBRA：为计算机使用 Agent 防御分支引导攻击的双 LLM 架构

CMU 研究：分片判断可避免 LLM 监督失效并抵御对抗利用

SCOPE：训练有能力且安全的计算机使用智能体

SkillSecurer：检测并修补 AI Agent 技能中的提示注入漏洞

红队测试 Auto Mode：用注入与多上下文攻击绕过编码 Agent 阻断监控器