跳到正文
10月8日 · 周四

提示注入 · 论文

找到 22 篇
筛选3

攻击类型

越狱3提示注入21恶意使用1

攻击技术

自动化搜索5编码与混淆2针对防御1诱导选用1

模型自身风险

欺骗与谋划1失准与价值偏离1

防御类型

模型加固1检测与过滤3指令与数据隔离5权限与审批4监控与审计2

影响

越权操作15数据与隐私泄露4输出被操纵1监督失效1

系统形态

AI Agent22编程 Agent2网页与电脑操作1多智能体3

攻击者权限

黑盒2

攻击面/入口

用户输入9网页与界面11文档与消息13工具返回21工具与技能描述7代码仓库与依赖8检索语料1记忆写入4Agent 间消息3图像与音视频2分发渠道1

层

应用层22

系统组件

MCP 与技能5记忆1护栏与评审3监控器3权限与沙箱6视觉1多模态1

被测模型厂商

OpenAI22Qwen（阿里）21Anthropic14Meta13Google12DeepSeek11智谱 GLM9Kimi（月之暗面）8Mistral5其他17
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 45 篇还没打标签，不在筛选结果里。
攻击面/入口：工具返回攻击面/入口：Agent 间消息被测模型厂商：OpenAI话题：提示注入清除全部

另有 45 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.11757

    研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御

    提出 Whisper 攻击与 A-VIP 绑定防御，约束智能体支付决策

    arXiv
    2609.11757
    发表
    层
    应用层
    场景
    AI Agent
    测试
    gpt-5.5、gemini-2.5-flash-lite、gemini-3.1-flash-lite 等 15 个

    摘要论文揭示了 AP2 协议决策层受操纵的风险，提出结构化与权能绑定防御 A-VIP，并发布评测基准。

    深度解读完整解读
  2. 防御arXiv 2610.05640

    研究揭示 CaMeL 防护在多智能体系统中失效并提出 multi-CaMeL

    提出 multi-CaMeL，在多智能体调用边界隔离可信指令与不可信数据

    arXiv
    2610.05640
    发表
    层
    应用层
    场景
    多智能体
    测试
    GPT-5.5、GPT-4.1、GPT-5.2 等 6 个

    摘要论文针对多智能体中单体防御不组合的边界清洗问题，提出 multi-CaMeL 协议彻底阻断了 MultiAgentDojo 上的注入攻击。

    深度解读完整解读
  3. 防御arXiv 2610.05163

    研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准

    提出 PAA 路径对齐归因，审计编程智能体边界动作前的分段提示注入

    arXiv
    2610.05163
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Codex CLI (v0.144.0, GPT-5.5)、GPT-5.5、GPT-5.6-Sol 等 7 个
    摘要论文针对长流程注入提出边界动作审计与 PAA，在保持低误阻的同时实现高拦截率。

    本研究针对长流程智能体在执行任务时面临的分阶段间接提示注入威胁，提出了在动作生效前进行拦截的边界动作审计框架与路径对齐归因方法。

    深度解读完整解读
  4. 防御arXiv 2610.03089

    COBRA：为计算机使用 Agent 防御分支引导攻击的双 LLM 架构

    提出 COBRA 双 LLM 架构，防御计算机使用智能体的分支转向攻击

    arXiv
    2610.03089
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    gpt-5、UI-TARS-1.5-7B、claude-sonnet-5 等 6 个

    摘要提出分支转向防御架构 COBRA，通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。

    深度解读完整解读
  5. 攻击arXiv 2609.18217

    研究：跨通道碎片化攻击可绕过 MCP 单通道防御

    提出跨通道分段攻击，借 MCP 多通道隐式信任外发敏感数据

    arXiv
    2609.18217
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    GPT-4o、GPT-4o-mini、GPT-5.4 等 15 个

    摘要论文揭示了 MCP 多通道隐式信任层级，通过跨通道分段与协议级利用突破现有防御，展示了严重的凭证外发风险。

    深度解读完整解读
  8. 防御arXiv 2601.10156

    ToolSafe 提出步骤级护栏 TS-Guard 与 TS-Flow，降低 Agent 有害工具调用

    提出 TS-Guard 与 TS-Flow，执行前检测并修正智能体有害工具调用

    arXiv
    2601.10156
    发表
    层
    应用层
    场景
    AI Agent
    测试
    GPT-4o、GPT-4o-mini、Qwen3-8B 等 10 个
    摘要TS-Bench 标步骤级风险，TS-Guard 用多任务 RL 做执行前判定，TS-Flow 用反馈代替直接中止。

    ToolSafe 研究 LLM 智能体在工具执行前的步骤级安全：基准 TS-Bench、护栏 TS-Guard，以及反馈驱动框架 TS-Flow。

    深度解读完整解读
  9. 防御arXiv 2609.18674

    CaMeLoT：用 CTL 时序逻辑在执行前静态验证 Agent 计划

    提出 CaMeLoT，在执行前用 CTL 静态验证 Agent 计划

    arXiv
    2609.18674
    发表
    层
    应用层
    场景
    AI Agent
    测试
    GPT-4.1 nano、GPT-4.1 mini、claude-haiku-4-5-20251001 等 5 个
    摘要CaMeLoT 在执行前用 CTL 模型检验补上 CaMeL 缺少的整段执行规范，并用反例修复计划。

    CaMeLoT 是 CaMeL 的神经符号扩展：在工具调用之前，用模型检验判断受限 Python 计划是否满足时序安全策略和从提示词抽出的任务性质。

    深度解读完整解读
  15. 评测与基准arXiv 2609.17320

    Emergence World：对长时程多智能体系统开展对抗压力测试

    构建 Emergence World，评测长时程多智能体对抗韧性与群体失效

    arXiv
    2609.17320
    发表
    层
    应用层
    场景
    多智能体
    测试
    GPT-5.5、GPT-5.4 Mini、Claude Opus 4.8 等 9 个

    摘要作者通过长期平行世界实验指出模型对齐不具备可组合性，单模型群体会产生社会奉承、协同退缩及语言不透明等失效。

    深度解读完整解读
  17. 评测与基准arXiv 2609.32691

    研究审计 Agent 安全评测缺陷：工具调用中介在间接提示注入下的有效评测框架

    提出卡点评测框架，以实参级谓词审计间接提示注入评测的测量偏差

    arXiv
    2609.32691
    发表
    层
    应用层
    场景
    AI Agent
    测试
    gpt-5.6-terra、llama3.1:8b、gemma4:12b 等 4 个

    摘要论文揭示了 IPI 评测中导致指标虚高的系统性缺陷，通过构建有效评测框架纠正了多项安全与模型能力结论。

    深度解读完整解读
  19. 攻击arXiv 2609.33628

    用课程强化学习对前沿模型做提示注入红队测试

    提出跨目标课程强化学习，生成间接提示注入以劫持智能体

    arXiv
    2609.33628
    发表
    层
    应用层
    场景
    AI Agent
    测试
    GPT-4o-mini、GPT-5-nano、GPT-5.6-Luna 等 14 个
    摘要提出跨目标模型课程强化学习，攻破前沿模型冷启动瓶颈并实现跨模型迁移。

    该研究针对强化学习自动化提示注入红队在攻击前沿大模型时的冷启动问题，提出了一种基于目标模型鲁棒性递进的课程强化学习方法。

    深度解读完整解读
加载更多