10月8日 · 周四

提示注入 · 论文

找到 7 篇

筛选2

攻击类型

提示注入6

防御类型

模型加固2 检测与过滤5 指令与数据隔离6 权限与审批4 监控与审计2

影响

越权操作6 输出被操纵1

系统形态

AI Agent7 网页与电脑操作3 多智能体1

攻击面/入口

网页与界面5 文档与消息1 工具返回5 工具与技能描述1

层

应用层7

系统组件

MCP 与技能2 权限与沙箱4

被测模型厂商

OpenAI5 其他7

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 75 篇还没打标签，不在筛选结果里。

防御类型：指令与数据隔离防御类型：权限与审批话题：提示注入清除全部

另有 75 篇论文还没打上分类标签，暂不在筛选结果里。

防御arXiv:2609.11757 · 9月10日
研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御
提出 A-VIP，将购物意图绑定到支付授权以阻断商户文本操控
AI Agent测试gemini-2.5-flash-lite、gemini-3.1-flash-lite、gemini-3-flash-preview 等 15 个应用层
摘要论文揭示了 AP2 协议决策层受操纵的风险，提出结构化与权能绑定防御 A-VIP，并发布评测基准。
完整解读
防御arXiv:2610.05640 · 10月5日
研究揭示 CaMeL 防护在多智能体系统中失效并提出 multi-CaMeL
提出 multi-CaMeL，在多智能体调用边界隔离可信指令与不可信数据
多智能体测试Claude Fable 5、GPT-5.5、GPT-4.1 等 6 个应用层
- 指令与数据隔离
- 提示注入
摘要论文针对多智能体中单体防御不组合的边界清洗问题，提出 multi-CaMeL 协议彻底阻断了 MultiAgentDojo 上的注入攻击。
完整解读
防御arXiv:2610.03089 · 10月2日
COBRA：为计算机使用 Agent 防御分支引导攻击的双 LLM 架构
提出 COBRA 双 LLM 架构，防御计算机使用智能体的分支转向攻击
网页与电脑操作测试gpt-5、UI-TARS-1.5-7B、claude-sonnet-5 等 6 个应用层
摘要提出分支转向防御架构 COBRA，通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。
完整解读
防御arXiv:2608.30041 · 8月31日
SkillGuard：面向间接提示注入的 LLM Agent 能力限制机制
提出 SkillGuard，用可达性切断污染后通往禁止状态的技能调用
AI Agent测试Gemini 2.5 Flash、Llama3.3-70B应用层
完整解读
防御arXiv:2607.05277 · 7月7日
UCM：为网页智能体遮蔽不可信内容以提供安全保证
提出 UCM，用 DOM 掩码与类型受限隔离模型隔开网页智能体与不可信内容
网页与电脑操作测试Claude Sonnet 4.5、Claude Sonnet 4.6、GPT-5.4应用层
- 指令与数据隔离
- 提示注入
完整解读
防御arXiv:2609.18411 · 9月16日
可验证行动卡片 VAC：为智能体浏览器提供可信人在回路确认
提出 VAC，用真实操作参数与来源隔离保护智能体浏览器确认
网页与电脑操作测试gpt-oss-120b、Gemini-2.5-Flash、GPT-4.1 等 6 个应用层
完整解读
防御arXiv:2609.35932 · 9月28日
同字节不同权限：保留 token 表示如何放大聊天模板提示注入
证明保留词元表示放大模板注入并验证分词缓解
AI Agent测试Qwen3-8B、Qwen3-32B、Llama-3.1-8B-Instruct 等 6 个应用层
- 指令与数据隔离
- 提示注入
摘要对话模板注入的权威性主要来自保留词元的学得向量而非文本语法，推理具有补偿作用，现有分词防御遗留工具协议漏洞。
完整解读

已经到底了

提示注入 · 论文

攻击类型

防御类型

影响

系统形态

攻击面/入口

层

系统组件

被测模型厂商

研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御

研究揭示 CaMeL 防护在多智能体系统中失效并提出 multi-CaMeL

COBRA：为计算机使用 Agent 防御分支引导攻击的双 LLM 架构

SkillGuard：面向间接提示注入的 LLM Agent 能力限制机制

UCM：为网页智能体遮蔽不可信内容以提供安全保证

可验证行动卡片 VAC：为智能体浏览器提供可信人在回路确认

同字节不同权限：保留 token 表示如何放大聊天模板提示注入