跳到正文
10月8日 · 周四

提示注入 · 论文

找到 5 篇
筛选2

攻击类型

越狱1提示注入4

攻击技术

自动化搜索1编码与混淆1针对防御1诱导选用1

防御类型

指令与数据隔离2权限与审批2

影响

越权操作3数据与隐私泄露1输出被操纵1

系统形态

AI Agent5编程 Agent1网页与电脑操作1

攻击者权限

黑盒1

攻击面/入口

用户输入1网页与界面1文档与消息1工具返回5工具与技能描述6代码仓库与依赖1记忆写入1Agent 间消息2分发渠道1

层

应用层5

系统组件

MCP 与技能5护栏与评审3监控器1权限与沙箱5

被测模型厂商

OpenAI5其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 78 篇还没打标签，不在筛选结果里。
攻击面/入口：工具返回系统组件：MCP 与技能话题：提示注入清除全部

另有 78 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.11757

    研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御

    提出 A-VIP，将购物意图绑定到支付授权以阻断商户文本操控

    arXiv
    2609.11757
    发表
    层
    应用层
    场景
    AI Agent
    测试
    gemini-2.5-flash-lite、gemini-3.1-flash-lite、gemini-3-flash-preview 等 15 个

    摘要论文揭示了 AP2 协议决策层受操纵的风险，提出结构化与权能绑定防御 A-VIP，并发布评测基准。

    深度解读完整解读
  2. 防御arXiv 2610.03089

    COBRA：为计算机使用 Agent 防御分支引导攻击的双 LLM 架构

    提出 COBRA 双 LLM 架构，防御计算机使用智能体的分支转向攻击

    arXiv
    2610.03089
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    gpt-5、UI-TARS-1.5-7B、claude-sonnet-5 等 6 个

    摘要提出分支转向防御架构 COBRA，通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。

    深度解读完整解读
  3. 攻击arXiv 2609.18217

    研究：跨通道碎片化攻击可绕过 MCP 单通道防御

    提出跨通道分段攻击，借 MCP 多通道隐式信任外发敏感数据

    arXiv
    2609.18217
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    GPT-4o、GPT-4o-mini、GPT-5.4 等 15 个

    摘要论文揭示了 MCP 多通道隐式信任层级，通过跨通道分段与协议级利用突破现有防御，展示了严重的凭证外发风险。

    深度解读完整解读
已经到底了