跳到正文
10月9日 · 周五

Google DeepMind · 论文

找到 6 篇
筛选5

攻击类型

越狱2提示注入3提取与窃取1

攻击技术

自动化搜索2对话结构操控1推理链操控1跨模态载荷2潜伏触发1

防御类型

检测与过滤1指令与数据隔离1权限与审批1

影响

有害内容2越权操作2数据与隐私泄露1输出被操纵1

系统形态

模型与 API3AI Agent3多智能体1

攻击者权限

黑盒3

攻击面/入口

用户输入10网页与界面1文档与消息1工具返回2工具与技能描述1代码仓库与依赖2Agent 间消息1图像与音视频2

层

提示层3应用层3

系统组件

MCP 与技能1护栏与评审1推理链1权限与沙箱1视觉1视频1多模态2

被测模型厂商

OpenAI6Google5其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 19 篇还没打标签，不在筛选结果里。
攻击面/入口：网页与界面攻击面/入口：文档与消息攻击面/入口：工具返回攻击面/入口：代码仓库与依赖攻击面/入口：图像与音视频话题：Google DeepMind清除全部

另有 19 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2609.11757

    研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御

    提出 Whisper 攻击与 A-VIP 绑定防御，约束智能体支付决策

    arXiv
    2609.11757
    发表
    层
    应用层
    场景
    AI Agent
    测试
    gemini-2.5-flash-lite、gemini-3.1-flash-lite、gemini-3-flash-preview 等 15 个

    摘要论文揭示了 AP2 协议决策层受操纵的风险，提出结构化与权能绑定防御 A-VIP，并发布评测基准。

    深度解读完整解读
  2. 攻击arXiv 2608.09867

    研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链

    利用加密思维块的跨模型重放，诱导弱模型逐字转写专有推理链

    arXiv
    2608.09867
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    测试
    Claude Opus 4.8、Claude Sonnet 4.6、Claude Haiku 4.5 等 15 个

    摘要论文揭示了客户端加密思维块跨模型互换漏洞，提出了低成本提取方法并给出防御方案。

    深度解读完整解读
  6. 攻击arXiv 2609.22510

    特拉维夫大学提出爆炸性提示词：条件触发的间接提示注入可绕过九款生产 Agent

    提出条件触发的爆炸提示词，延迟激活 Agent 的间接提示注入

    arXiv
    2609.22510
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct、Qwen2.5-32B-Instruct 等 14 个
    摘要论文揭示了条件触发使提示注入绕过防御并在触发时执行工具，提出轻量检测器并在摄入期有效防范。

    论文针对大语言模型智能体面临的间接提示注入威胁，研究了利用条件句式实现时间分离的爆炸提示词。

    深度解读完整解读
已经到底了