跳到正文
10月8日 · 周四

提示注入 · 论文

找到 7 篇
筛选2

攻击类型

越狱1提示注入6投毒与后门1

防御类型

模型加固3检测与过滤6指令与数据隔离8权限与审批7监控与审计3

影响

越权操作5输出被操纵2

系统形态

AI Agent7网页与电脑操作1

攻击面/入口

用户输入2网页与界面4文档与消息2工具返回7工具与技能描述1检索语料2记忆写入1Agent 间消息1

层

应用层7

系统组件

MCP 与技能2记忆1权限与沙箱6

被测模型厂商

其他6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 50 篇还没打标签，不在筛选结果里。
防御类型：权限与审批攻击面/入口：工具返回话题：提示注入清除全部

另有 50 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.11757

    研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御

    提出 A-VIP，将购物意图绑定到支付授权以阻断商户文本操控

    arXiv
    2609.11757
    发表
    层
    应用层
    场景
    AI Agent
    测试
    gemini-2.5-flash-lite、gemini-3.1-flash-lite、gemini-3-flash-preview 等 15 个

    摘要论文揭示了 AP2 协议决策层受操纵的风险，提出结构化与权能绑定防御 A-VIP，并发布评测基准。

    深度解读完整解读
  2. 防御arXiv 2610.03089

    COBRA：为计算机使用 Agent 防御分支引导攻击的双 LLM 架构

    提出 COBRA 双 LLM 架构，防御计算机使用智能体的分支转向攻击

    arXiv
    2610.03089
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    gpt-5、UI-TARS-1.5-7B、claude-sonnet-5 等 6 个

    摘要提出分支转向防御架构 COBRA，通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。

    深度解读完整解读
  7. 防御arXiv 2609.31039

    MetaPermit：通过 LLM 推断元属性为 AI Agent 提供可扩展可审计的访问控制

    提出 MetaPermit，用元属性与固定策略挡住工具返回中的间接提示注入

    arXiv
    2609.31039
    发表
    层
    应用层
    场景
    AI Agent
    测试
    MiniMax-M2.7、Qwen3-235B-a22-2507、Qwen3-8B
    摘要MetaPermit 用固定策略评估 LLM 推断的元属性，在两个开源模型上把攻击成功压到接近零并保留更多效用。

    MetaPermit 是面向工具使用 LLM 智能体的混合访问控制：LLM 描述候选调用，固定策略决定是否放行。

    深度解读完整解读
已经到底了