防御arXiv 2610.0516310月4日
研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准
提出路径对齐归因 PAA，在边界动作前审计长流程智能体的分段提示注入
arXiv
2610.05163
发表
10月4日
层
应用层
场景
编程 Agent
测试
Claude Code (v2.1.172, Claude Sonnet 5)、Codex CLI (v0.144.0, GPT-5.5)、Claude Sonnet 5 等 7 个
- 防御监控与审计
- 攻击提示注入
- 组件监控器
摘要论文针对长流程注入提出边界动作审计与 PAA，在保持低误阻的同时实现高拦截率。
本研究针对长流程智能体在执行任务时面临的分阶段间接提示注入威胁，提出了在动作生效前进行拦截的边界动作审计框架与路径对齐归因方法。
深度解读完整解读
评测与基准arXiv 2609.094049月9日
MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测
用 MMPIBench 评测智能体框架的多模态提示注入
arXiv
2609.09404
发表
9月9日
层
应用层
场景
AI Agent
测试
Claude Opus 4.8、GPT-5.4、Gemini 3.1 Pro 等 6 个
- 攻击提示注入
- 技术跨模态载荷
- 组件视觉
摘要论文提出 MMPIBench 评测多模态提示注入对智能体的影响，发现模型主导行为、尝试远超完成，音频通道缺乏防护。
深度解读完整解读
攻击arXiv 2609.045339月4日
Repeat-After-Me：针对黑盒 VLM 的自适应视觉提示注入攻击
提出 Repeat-After-Me，以图像前缀诱导智能体调用工具或泄露隐私
arXiv
2609.04533
发表
9月4日
层
应用层
场景
AI Agent
测试
Claude-Opus-4.7、GPT-5.5、Gemini-3.1-Pro 等 11 个
- 攻击提示注入
- 技术自动化搜索
- 组件视觉
摘要论文提出了针对黑盒 VLM 的前缀诱导自适应视觉提示注入，在多款模型上诱发了工具调用与隐私泄露。
深度解读完整解读
防御arXiv 2609.195879月17日
红队测试 Auto Mode：用注入与多上下文攻击绕过编码 Agent 阻断监控器
提出 Auto Mode ++，加固编码 Agent 的阻断监视器
arXiv
2609.19587
发表
9月17日
层
应用层
场景
编程 Agent
测试
Opus 5、Opus 4.8、Opus 4.7 等 8 个
- 防御监控与审计
- 风险欺骗与谋划
- 组件监控器
摘要系统评估生产阻断监视器在面对持续恶意智能体时的表现，提出加固防御并指明多上下文防御挑战。
深度解读完整解读
防御arXiv 2609.149879月14日
ActGuard：面向 LLM Agent 间接提示注入的执行前动作审计框架
提出 ActGuard，在执行前审计并遮盖诱发动作偏离的间接注入
arXiv
2609.14987
发表
9月14日
层
应用层
场景
AI Agent
测试
GPT-4o-mini、Gemini-2.5-Flash、DeepSeek-V4-Flash 等 7 个
- 防御监控与审计
- 攻击提示注入
- 组件监控器
深度解读完整解读
评测与基准arXiv 2609.331029月27日
ORBIT：基于 UK AISI Inspect 的多智能体安全评测框架
提出 ORBIT 框架，评测多智能体系统中的攻击、合谋与多类防御
arXiv
2609.33102
发表
9月27日
层
应用层
场景
多智能体
测试
GPT-5.4、Claude Sonnet 4.6、Qwen3-235B 等 6 个
- 攻击提示注入
- 风险欺骗与谋划
- 组件监控器
摘要ORBIT 用六层配置比较多智能体防御，逐动作监控不迁移到合谋。
深度解读完整解读
防御arXiv 2609.366039月29日
SED：面向 LLM 智能体的免训练持续安全策略学习框架
提出免训练框架 SED，把智能体有害轨迹蒸馏成可检索安全策略
arXiv
2609.36603
发表
9月29日
层
应用层
场景
AI Agent
测试
DeepSeek-V4-Flash、GLM-5.2、Kimi K3
- 防御监控与审计
- 攻击提示注入
- 组件记忆
深度解读完整解读
防御arXiv 2609.361219月29日
Render Before Reading：把不可信内容渲染成图像以防御提示注入
提出 Pictionary，将不可信文本渲染为图像以防御提示注入
arXiv
2609.36121
发表
9月29日
层
应用层
场景
AI Agent
测试
Claude Opus 4.7、Claude Haiku 4.5、GPT-5.5 等 12 个
- 防御指令与数据隔离
- 攻击提示注入
- 组件视觉
深度解读完整解读
防御arXiv 2609.356599月29日
Tracekit：面向自主编码 Agent 的防篡改意图-推理-动作审计系统
提出 Tracekit，对编码 Agent 做防篡改的意图-推理-动作审计
arXiv
2609.35659
发表
9月29日
层
应用层
场景
编程 Agent
测试
Claude Code (claude -p, version 2.1)、独立评审（同一 CLI，无工具）
- 防御监控与审计
- 攻击提示注入
- 风险Agent 危险操作
- 组件监控器
摘要Tracekit 把意图、自述和动作写入可锚定的哈希链。
Tracekit 是无第三方依赖的编码智能体审计层：把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链，执行前用正则门，事后用规则和独立模型互查。
深度解读完整解读

已经到底了