跳到正文
10月9日 · 周五

全部论文

找到 6 篇
筛选3

攻击类型

越狱1提示注入5

防御类型

模型加固1推理时干预1检测与过滤12指令与数据隔离6权限与审批13监控与审计8

影响

越权操作4数据与隐私泄露1输出被操纵1

系统形态

AI Agent6网页与电脑操作1多智能体1

攻击面/入口

用户输入1网页与界面2文档与消息1工具返回4

层

提示层2应用层6

系统组件

权限与沙箱4视觉1多模态1

被测模型厂商

OpenAI14Qwen（阿里）11Anthropic10DeepSeek6Google6智谱 GLM6Kimi（月之暗面）6Meta5其他7
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 643 篇还没打标签，不在筛选结果里。
防御类型：指令与数据隔离层：应用层被测模型厂商：Google清除全部

另有 643 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.11757

    研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御

    提出 Whisper 攻击与 A-VIP 绑定防御，约束智能体支付决策

    arXiv
    2609.11757
    发表
    层
    应用层
    场景
    AI Agent
    测试
    gemini-2.5-flash-lite、gemini-3.1-flash-lite、gemini-3-flash-preview 等 15 个

    摘要论文揭示了 AP2 协议决策层受操纵的风险，提出结构化与权能绑定防御 A-VIP，并发布评测基准。

    深度解读完整解读
  2. 防御arXiv 2610.05640

    研究揭示 CaMeL 防护在多智能体系统中失效并提出 multi-CaMeL

    提出 multi-CaMeL，在多智能体调用边界隔离可信指令与不可信数据

    arXiv
    2610.05640
    发表
    层
    应用层
    场景
    多智能体
    测试
    Gemini 2.5 Pro、Gemini 2.5 Flash Lite、Claude Fable 5 等 6 个

    摘要论文针对多智能体中单体防御不组合的边界清洗问题，提出 multi-CaMeL 协议彻底阻断了 MultiAgentDojo 上的注入攻击。

    深度解读完整解读
  3. 防御arXiv 2610.00797

    Sapien：面向自主 AI 智能体的有状态策略引擎

    提出有状态策略引擎 Sapien，拦截被劫持智能体的越权工具调用

    arXiv
    2610.00797
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Gemini 3.8 Flash、Gemini 3.1 Pro、Claude Sonnet 5 等 4 个
    摘要Sapien 用有状态上下文策略约束工具序列，在近似保住效用的同时拦住多数被劫持轨迹。

    Sapien 是面向通用 AI 智能体的有状态策略引擎：执行前把用户提示词译成任务策略，运行时只放行该策略承认的工具调用序列。

    深度解读完整解读
已经到底了