10月8日 · 周四

提示注入 · 论文

找到 30 篇

筛选1

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 75 篇还没打标签，不在筛选结果里。

被测模型厂商：OpenAI 话题：提示注入清除全部

另有 75 篇论文还没打上分类标签，暂不在筛选结果里。

防御arXiv:2609.11757 · 9月10日
研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御
提出 A-VIP，将购物意图绑定到支付授权以阻断商户文本操控
AI Agent测试gpt-5.5、gemini-2.5-flash-lite、gemini-3.1-flash-lite 等 15 个应用层
摘要论文揭示了 AP2 协议决策层受操纵的风险，提出结构化与权能绑定防御 A-VIP，并发布评测基准。
完整解读
防御arXiv:2610.05640 · 10月5日
研究揭示 CaMeL 防护在多智能体系统中失效并提出 multi-CaMeL
提出 multi-CaMeL，在多智能体调用边界隔离可信指令与不可信数据
多智能体测试GPT-5.5、GPT-4.1、GPT-5.2 等 6 个应用层
- 指令与数据隔离
- 提示注入
摘要论文针对多智能体中单体防御不组合的边界清洗问题，提出 multi-CaMeL 协议彻底阻断了 MultiAgentDojo 上的注入攻击。
完整解读
防御arXiv:2610.05163 · 10月4日
研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准
提出 PAA 路径对齐归因，审计编程智能体边界动作前的分段提示注入
编程 Agent测试Codex CLI (v0.144.0, GPT-5.5)、GPT-5.5、GPT-5.6-Sol 等 7 个应用层
摘要论文针对长流程注入提出边界动作审计与 PAA，在保持低误阻的同时实现高拦截率。
本研究针对长流程智能体在执行任务时面临的分阶段间接提示注入威胁，提出了在动作生效前进行拦截的边界动作审计框架与路径对齐归因方法。
完整解读
防御arXiv:2610.03089 · 10月2日
COBRA：为计算机使用 Agent 防御分支引导攻击的双 LLM 架构
提出 COBRA 双 LLM 架构，防御计算机使用智能体的分支转向攻击
网页与电脑操作测试gpt-5、UI-TARS-1.5-7B、claude-sonnet-5 等 6 个应用层
摘要提出分支转向防御架构 COBRA，通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。
完整解读
攻击arXiv:2609.18217 · 9月16日
研究：跨通道碎片化攻击可绕过 MCP 单通道防御
提出跨通道分段攻击，借 MCP 多通道隐式信任外发敏感数据
编程 Agent测试GPT-4o、GPT-4o-mini、GPT-5.4 等 15 个应用层
摘要论文揭示了 MCP 多通道隐式信任层级，通过跨通道分段与协议级利用突破现有防御，展示了严重的凭证外发风险。
完整解读
评测与基准arXiv:2609.09404 · 9月9日
MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测
用 MMPIBench 评测智能体框架的多模态提示注入
AI Agent测试GPT-5.4、gpt-audio、Claude Opus 4.8 等 6 个应用层
摘要论文提出 MMPIBench 评测多模态提示注入对智能体的影响，发现模型主导行为、尝试远超完成，音频通道缺乏防护。
完整解读
攻击arXiv:2608.09867 · 8月11日
研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链
利用加密思维块的跨模型重放，诱导弱模型逐字转写专有推理链
模型与 API攻击者黑盒测试GPT-5.6 Sol、GPT-5.6 Luna、GPT-5.6 Terra 等 15 个提示层
摘要论文揭示了客户端加密思维块跨模型互换漏洞，提出了低成本提取方法并给出防御方案。
完整解读
分析与理论arXiv:2610.01535 · 10月1日
论文：安全路由评测在分布偏移下失效，基线选取偏差被低估
分析分布偏移下安全路由评测的基线选择偏差与虚假下限
LLM 应用测试gpt-4o、gpt-5.4、gpt-5.4-mini 等 12 个应用层
- 越狱
摘要论文揭示安全路由评估在分布偏移下的虚假下限，指出防御重心应转向外部动作级强制。
完整解读
评测与基准arXiv:2609.02316 · 9月2日
Counter-GEO-Bench：现有护栏难挡 GEO 虚假信息
构建 COUNTER-GEO-BENCH，评测生成式搜索对信息扭曲 GEO 的防御
LLM 应用测试GPT 5.5、Gemma-4-31B-IT、Qwen-3.5-35B-A3B 等 11 个应用层
摘要论文构建了针对 GEO 虚假信息的首个防御基准，揭示通用护栏的失效与反作用，并提出了有效的轻量对比检测基线。
完整解读
攻击arXiv:2607.05189 · 7月6日
研究者提出 MemGhost，对持久化个人 Agent 实现隐蔽记忆注入
提出 MEMGHOST，以单封恶意邮件向持久个人智能体注入隐蔽记忆
AI Agent测试GPT-5.4、Claude Sonnet 4.6、Claude Sonnet 4.5 等 6 个应用层
摘要总结了论文的研究背景、双代理优化方法 MEMGHOST、全周期实验结果以及作者对记忆信任边界的启示。
本文研究了持久化个人智能体面临的隐蔽记忆注入威胁，提出了一套兼顾写入、隐蔽与跨会话生效的自动化生成框架与全周期评测基准。
完整解读
攻击arXiv:2609.01222 · 9月1日
研究者提出上下文权限提升攻击，12 款 Agent 框架均受影响
提出上下文特权提升攻击，借助记忆、技能与仓库内容操纵编程智能体
编程 Agent测试GPT-5.5、GPT-5.4 mini、Claude-Sonnet-4.6 等 7 个应用层
完整解读
攻击arXiv:2607.26115 · 7月29日
OpenAI 发布 GPT-Red：通过自博弈训练自动化红队智能体
提出自博弈红队智能体 GPT-Red，自动挖掘提示注入与越狱攻击
AI Agent攻击者黑盒测试GPT-5.6、GPT-5.5、GPT-5.4 等 8 个应用层
完整解读
攻击arXiv:2608.23858 · 8月25日
研究者对 Google AP2 v0.2 做系统安全分析，识别 48 项威胁
系统分析智能体支付协议 AP2，揭示合法签名无法阻止前置上下文操纵
AI Agent测试gpt-5.3、gpt-5.5应用层
完整解读
防御arXiv:2607.05277 · 7月7日
UCM：为网页智能体遮蔽不可信内容以提供安全保证
提出 UCM，用 DOM 掩码与类型受限隔离模型隔开网页智能体与不可信内容
网页与电脑操作测试GPT-5.4、Claude Sonnet 4.5、Claude Sonnet 4.6应用层
- 指令与数据隔离
- 提示注入
完整解读
评测与基准arXiv:2607.14611 · 7月16日
论文评测 Claude Code 与 Codex 记忆文件中的提示注入风险
评测编码智能体记忆文件中的提示注入及其跨会话持久性
编程 Agent测试GPT-5.2、GPT-5.5、Claude Haiku 4.5 等 4 个应用层
摘要已植入记忆文件的载荷可以跨会话影响 Claude Code 与 Codex，攻击成功与载荷是否留下是两种不同的失败。
Bad Memory 在沙箱合成工作区里评测文件型持久记忆上的提示注入，比较载荷能否改变当前会话，以及能否在后续会话中留下或叠加。
完整解读
防御arXiv:2609.14079 · 9月13日
SkillSecurer：检测并修补 AI Agent 技能中的提示注入漏洞
提出 SkillSecurer，检测定位并修补智能体技能中的提示注入
编程 Agent测试GPT-5.6 Sol、GPT-oss 120B、Claude Sonnet 5 等 10 个应用层
完整解读
攻击arXiv:2610.00430 · 10月2日
Memetic Trojans：利用社交传染在 LLM Agent 网络中传播对抗载荷
提出 memetic trojans，把对抗载荷嵌入智能体自发转发的社会传染内容
多智能体测试gpt-oss-120B、deepseek-v4.1-flash、qwen-32B 等 5 个应用层
- 投毒与后门
- MCP 与技能
摘要memetic trojans 用内生社会传染携带载荷。
Memetic trojans 是一类网络介导攻击：对抗载荷搭在智能体本来就会转发和点赞的内容上扩散，转发者不必被攻陷，也不必执行“请继续复制”的指令。
完整解读
防御arXiv:2601.10156 · 1月15日
ToolSafe 提出步骤级护栏 TS-Guard 与 TS-Flow，降低 Agent 有害工具调用
提出 TS-Guard 与 TS-Flow，执行前检测并修正智能体有害工具调用
AI Agent测试GPT-4o、GPT-4o-mini、Qwen3-8B 等 10 个应用层
摘要TS-Bench 标步骤级风险，TS-Guard 用多任务 RL 做执行前判定，TS-Flow 用反馈代替直接中止。
ToolSafe 研究 LLM 智能体在工具执行前的步骤级安全：基准 TS-Bench、护栏 TS-Guard，以及反馈驱动框架 TS-Flow。
完整解读
攻击arXiv:2609.04533 · 9月4日
Repeat-After-Me：针对黑盒 VLM 的自适应视觉提示注入攻击
提出 Repeat-After-Me，以图像前缀诱导智能体调用工具或泄露隐私
AI Agent测试GPT-5.5、GPT-5-mini、Claude-Opus-4.7 等 11 个应用层
摘要论文提出了针对黑盒 VLM 的前缀诱导自适应视觉提示注入，在多款模型上诱发了工具调用与隐私泄露。
完整解读
评测与基准arXiv:2609.19587 · 9月17日
红队测试 Auto Mode：用注入与多上下文攻击绕过编码 Agent 阻断监控器
红队评估编码智能体的阻断监视器，并提出 Auto Mode++加固
编程 Agent测试GPT 5.6 Luna、Opus 5、Opus 4.8 等 8 个应用层
摘要系统评估生产阻断监视器在面对持续恶意智能体时的表现，提出加固防御并指明多上下文防御挑战。
完整解读

加载更多

提示注入 · 论文

攻击类型

攻击技术

模型自身风险

防御类型

影响

系统形态

攻击者权限

攻击面/入口

层

系统组件

被测模型厂商

研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御

研究揭示 CaMeL 防护在多智能体系统中失效并提出 multi-CaMeL

研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准

COBRA：为计算机使用 Agent 防御分支引导攻击的双 LLM 架构

研究：跨通道碎片化攻击可绕过 MCP 单通道防御

MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测

研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链

论文：安全路由评测在分布偏移下失效，基线选取偏差被低估

Counter-GEO-Bench：现有护栏难挡 GEO 虚假信息

研究者提出 MemGhost，对持久化个人 Agent 实现隐蔽记忆注入

研究者提出上下文权限提升攻击，12 款 Agent 框架均受影响

OpenAI 发布 GPT-Red：通过自博弈训练自动化红队智能体

研究者对 Google AP2 v0.2 做系统安全分析，识别 48 项威胁

UCM：为网页智能体遮蔽不可信内容以提供安全保证

论文评测 Claude Code 与 Codex 记忆文件中的提示注入风险

SkillSecurer：检测并修补 AI Agent 技能中的提示注入漏洞

Memetic Trojans：利用社交传染在 LLM Agent 网络中传播对抗载荷

ToolSafe 提出步骤级护栏 TS-Guard 与 TS-Flow，降低 Agent 有害工具调用

Repeat-After-Me：针对黑盒 VLM 的自适应视觉提示注入攻击

红队测试 Auto Mode：用注入与多上下文攻击绕过编码 Agent 阻断监控器