防御arXiv 2610.0516310月4日
研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准
提出 PAA 路径对齐归因，审计编程智能体边界动作前的分段提示注入
arXiv
2610.05163
发表
10月4日
层
应用层
场景
编程 Agent
测试
Claude Code (v2.1.172, Claude Sonnet 5)、Codex CLI (v0.144.0, GPT-5.5)、Claude Sonnet 5 等 7 个
- 防御监控与审计
- 攻击提示注入
- 组件监控器
摘要论文针对长流程注入提出边界动作审计与 PAA，在保持低误阻的同时实现高拦截率。
本研究针对长流程智能体在执行任务时面临的分阶段间接提示注入威胁，提出了在动作生效前进行拦截的边界动作审计框架与路径对齐归因方法。
深度解读完整解读
防御arXiv 2610.0308910月2日
COBRA：为计算机使用 Agent 防御分支引导攻击的双 LLM 架构
提出 COBRA 双 LLM 架构，防御计算机使用智能体的分支转向攻击
arXiv
2610.03089
发表
10月2日
层
应用层
场景
网页与电脑操作
测试
gpt-5、claude-sonnet-5、UI-TARS-1.5-7B 等 6 个
- 防御指令与数据隔离
- 组件权限与沙箱
摘要提出分支转向防御架构 COBRA，通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。
深度解读完整解读
防御arXiv 2608.064228月6日
CMU 研究：分片判断可避免 LLM 监督失效并抵御对抗利用
提出分片监督，将评判标准拆至独立调用以改善一致性并抵御展示攻击
arXiv
2608.06422
发表
8月6日
层
应用层
场景
LLM 应用
攻击者
黑盒
测试
Claude Opus 4.8、Claude Sonnet 4.6、Claude Opus 4.6 等 5 个
- 防御检测与过滤
- 攻击检测规避
- 组件护栏与评审
摘要论文揭示决策负载是大模型监督的独立瓶颈，提出分片与辩论机制有效分离注意力与平衡证据，在多项高难度基准上实现稳健评判。
本文系统研究了大语言模型在执行多标准监督与评判时的决策负载瓶颈及其安全风险。
深度解读完整解读
防御arXiv 2609.221788月27日
SCOPE：训练有能力且安全的计算机使用智能体
提出 SCOPE 联合后训练计算机使用智能体的任务执行与安全决策
arXiv
2609.22178
发表
8月27日
层
应用层
场景
网页与电脑操作
测试
Claude 4.5 Sonnet、Qwen3.5-9B、SCOPE-mid-checkpoint 等 14 个
- 防御模型加固
- 攻击提示注入
深度解读完整解读
防御arXiv 2609.140799月13日
SkillSecurer：检测并修补 AI Agent 技能中的提示注入漏洞
提出 SkillSecurer，检测定位并修补智能体技能中的提示注入
arXiv
2609.14079
发表
9月13日
层
应用层
场景
编程 Agent
测试
Claude Sonnet 5、GPT-5.6 Sol、GPT-oss 120B 等 10 个
- 防御检测与过滤
- 攻击提示注入
- 组件MCP 与技能
深度解读完整解读
防御arXiv 2609.195879月17日
红队测试 Auto Mode：用注入与多上下文攻击绕过编码 Agent 阻断监控器
红队评估编码智能体的阻断监视器，并提出 Auto Mode++加固
arXiv
2609.19587
发表
9月17日
层
应用层
场景
编程 Agent
测试
Opus 5、Opus 4.8、Opus 4.7 等 8 个
- 防御监控与审计
- 风险欺骗与谋划
- 组件监控器
摘要系统评估生产阻断监视器在面对持续恶意智能体时的表现，提出加固防御并指明多上下文防御挑战。
深度解读完整解读
防御arXiv 2609.225109月19日
特拉维夫大学提出爆炸性提示词：条件触发的间接提示注入可绕过九款生产 Agent
提出爆炸提示词，用条件触发的间接注入延迟诱发恶意工具调用
arXiv
2609.22510
发表
9月19日
层
应用层
场景
AI Agent
测试
GPT-4.1、OpenAI Codex、Anthropic Claude Code CLI 等 14 个
- 防御检测与过滤
- 攻击提示注入
- 技术潜伏触发
- 组件护栏与评审
摘要论文揭示了条件触发使提示注入绕过防御并在触发时执行工具，提出轻量检测器并在摄入期有效防范。
论文针对大语言模型智能体面临的间接提示注入威胁，研究了利用条件句式实现时间分离的爆炸提示词。
深度解读完整解读
防御arXiv 2609.345189月28日
SEAD 论文提出工具型 Agent 的状态视角攻击与防御方法 DART 与 SAGE
提出工具智能体的状态攻击 DART 与预执行防御 SAGE
arXiv
2609.34518
发表
9月28日
层
应用层
场景
AI Agent
测试
GPT-5.6 Luna、GPT-5.6 Terra、Claude Sonnet 5 等 8 个
- 防御权限与审批
- 攻击越狱
- 组件权限与沙箱
摘要论文提出状态控制框架 SEAD、攻击 DART 与防御 SAGE，实验显示执行反馈与环境探测在攻防交互中具有关键作用。
深度解读完整解读

已经到底了