防御arXiv:2610.05640 · 10月5日
研究揭示 CaMeL 防护在多智能体系统中失效并提出 multi-CaMeL
提出 multi-CaMeL，在多智能体调用边界隔离可信指令与不可信数据
多智能体测试Claude Fable 5、GPT-5.5、GPT-4.1 等 6 个应用层
- 指令与数据隔离
- 提示注入
摘要论文针对多智能体中单体防御不组合的边界清洗问题，提出 multi-CaMeL 协议彻底阻断了 MultiAgentDojo 上的注入攻击。
完整解读
防御arXiv:2610.05163 · 10月4日
研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准
提出 PAA 路径对齐归因，审计编程智能体边界动作前的分段提示注入
编程 Agent测试Claude Code (v2.1.172, Claude Sonnet 5)、Codex CLI (v0.144.0, GPT-5.5)、Claude Sonnet 5 等 7 个应用层
摘要论文针对长流程注入提出边界动作审计与 PAA，在保持低误阻的同时实现高拦截率。
本研究针对长流程智能体在执行任务时面临的分阶段间接提示注入威胁，提出了在动作生效前进行拦截的边界动作审计框架与路径对齐归因方法。
完整解读
防御arXiv:2610.03089 · 10月2日
COBRA：为计算机使用 Agent 防御分支引导攻击的双 LLM 架构
提出 COBRA 双 LLM 架构，防御计算机使用智能体的分支转向攻击
网页与电脑操作测试gpt-5、UI-TARS-1.5-7B、claude-sonnet-5 等 6 个应用层
摘要提出分支转向防御架构 COBRA，通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。
完整解读
评测与基准arXiv:2609.09404 · 9月9日
MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测
用 MMPIBench 评测智能体框架的多模态提示注入
AI Agent测试Claude Opus 4.8、GPT-5.4、Gemini 3.1 Pro 等 6 个应用层
摘要论文提出 MMPIBench 评测多模态提示注入对智能体的影响，发现模型主导行为、尝试远超完成，音频通道缺乏防护。
完整解读
攻击arXiv:2609.01222 · 9月1日
研究者提出上下文权限提升攻击，12 款 Agent 框架均受影响
提出上下文特权提升攻击，借助记忆、技能与仓库内容操纵编程智能体
编程 Agent测试GPT-5.5、GPT-5.4 mini、Claude-Sonnet-4.6 等 7 个应用层
完整解读
攻击arXiv:2608.23858 · 8月25日
研究者对 Google AP2 v0.2 做系统安全分析，识别 48 项威胁
系统分析智能体支付协议 AP2，揭示合法签名无法阻止前置上下文操纵
AI Agent测试gpt-5.3、gpt-5.5应用层
完整解读
防御arXiv:2608.30041 · 8月31日
SkillGuard：面向间接提示注入的 LLM Agent 能力限制机制
提出 SkillGuard，用可达性切断污染后通往禁止状态的技能调用
AI Agent测试Gemini 2.5 Flash、Llama3.3-70B应用层
完整解读
防御arXiv:2607.05277 · 7月7日
UCM：为网页智能体遮蔽不可信内容以提供安全保证
提出 UCM，用 DOM 掩码与类型受限隔离模型隔开网页智能体与不可信内容
网页与电脑操作测试Claude Sonnet 4.5、Claude Sonnet 4.6、GPT-5.4应用层
- 指令与数据隔离
- 提示注入
完整解读
防御arXiv:2609.14079 · 9月13日
SkillSecurer：检测并修补 AI Agent 技能中的提示注入漏洞
提出 SkillSecurer，检测定位并修补智能体技能中的提示注入
编程 Agent测试Claude Sonnet 5、Gemini 3.6 Flash、GPT-5.6 Sol 等 10 个应用层
完整解读
攻击arXiv:2610.00430 · 10月2日
Memetic Trojans：利用社交传染在 LLM Agent 网络中传播对抗载荷
提出 memetic trojans，把对抗载荷嵌入智能体自发转发的社会传染内容
多智能体测试gpt-oss-120B、deepseek-v4.1-flash、qwen-32B 等 5 个应用层
- 投毒与后门
- MCP 与技能
摘要memetic trojans 用内生社会传染携带载荷。
Memetic trojans 是一类网络介导攻击：对抗载荷搭在智能体本来就会转发和点赞的内容上扩散，转发者不必被攻陷，也不必执行“请继续复制”的指令。
完整解读
防御arXiv:2601.10156 · 1月15日
ToolSafe 提出步骤级护栏 TS-Guard 与 TS-Flow，降低 Agent 有害工具调用
提出 TS-Guard 与 TS-Flow，执行前检测并修正智能体有害工具调用
AI Agent测试GPT-4o、Qwen3-8B、Qwen2.5-7B-Instruct 等 10 个应用层
摘要TS-Bench 标步骤级风险，TS-Guard 用多任务 RL 做执行前判定，TS-Flow 用反馈代替直接中止。
ToolSafe 研究 LLM 智能体在工具执行前的步骤级安全：基准 TS-Bench、护栏 TS-Guard，以及反馈驱动框架 TS-Flow。
完整解读
攻击arXiv:2609.04533 · 9月4日
Repeat-After-Me：针对黑盒 VLM 的自适应视觉提示注入攻击
提出 Repeat-After-Me，以图像前缀诱导智能体调用工具或泄露隐私
AI Agent测试Claude-Opus-4.7、GPT-5.5、Gemini-3.1-Pro 等 11 个应用层
摘要论文提出了针对黑盒 VLM 的前缀诱导自适应视觉提示注入，在多款模型上诱发了工具调用与隐私泄露。
完整解读
攻击arXiv:2608.30441 · 8月31日
ECLIPSE：针对长程 Agent 系统的自演化隐蔽提示注入攻击
提出 ECLIPSE 双通道自演化提示注入，劫持长程智能体动作轨迹
AI Agent攻击者黑盒测试DeepSeek、GPT-4o、Claude 4.8 Opus 等 7 个应用层
完整解读
评测与基准arXiv:2609.17320 · 9月15日
Emergence World：对长时程多智能体系统开展对抗压力测试
构建 Emergence World，评测长时程多智能体对抗韧性与群体失效
多智能体测试Claude Opus 4.8、DeepSeek v4 Pro、Gemini 3.5 Flash 等 9 个应用层
摘要作者通过长期平行世界实验指出模型对齐不具备可组合性，单模型群体会产生社会奉承、协同退缩及语言不透明等失效。
完整解读
防御arXiv:2609.18411 · 9月16日
可验证行动卡片 VAC：为智能体浏览器提供可信人在回路确认
提出 VAC，用真实操作参数与来源隔离保护智能体浏览器确认
网页与电脑操作测试gpt-oss-120b、Gemini-2.5-Flash、GPT-4.1 等 6 个应用层
完整解读
攻击arXiv:2609.22510 · 9月19日
特拉维夫大学提出爆炸性提示词：条件触发的间接提示注入可绕过九款生产 Agent
提出爆炸提示词，用条件触发的间接注入延迟诱发恶意工具调用
AI Agent测试Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct、Qwen2.5-32B-Instruct 等 14 个应用层
摘要论文揭示了条件触发使提示注入绕过防御并在触发时执行工具，提出轻量检测器并在摄入期有效防范。
论文针对大语言模型智能体面临的间接提示注入威胁，研究了利用条件句式实现时间分离的爆炸提示词。
完整解读
攻击arXiv:2609.33628 · 9月27日
用课程强化学习对前沿模型做提示注入红队测试
提出跨目标课程强化学习，生成间接提示注入以劫持智能体
AI Agent测试Qwen3-4B-Instruct-2507、GPT-4o-mini、GPT-5-nano 等 14 个应用层
- 提示注入
- 自动化搜索
摘要提出跨目标模型课程强化学习，攻破前沿模型冷启动瓶颈并实现跨模型迁移。
该研究针对强化学习自动化提示注入红队在攻击前沿大模型时的冷启动问题，提出了一种基于目标模型鲁棒性递进的课程强化学习方法。
完整解读
攻击arXiv:2609.33910 · 9月28日
论文提出残留授权重放攻击：长期运行 Agent 的授权可跨任务复用
提出残余权限重放攻击，跨任务复用已批准授权绕过确认
编程 Agent测试GPT-4.1、Gemini-3.1-Flash-Lite、Qwen3-14B 等 9 个应用层
完整解读
防御arXiv:2609.35932 · 9月28日
同字节不同权限：保留 token 表示如何放大聊天模板提示注入
证明保留词元表示放大模板注入并验证分词缓解
AI Agent测试Qwen3-8B、Qwen3-32B、Llama-3.1-8B-Instruct 等 6 个应用层
- 指令与数据隔离
- 提示注入
摘要对话模板注入的权威性主要来自保留词元的学得向量而非文本语法，推理具有补偿作用，现有分词防御遗留工具协议漏洞。
完整解读

已经到底了