10月8日 · 周四

Google DeepMind · 论文

找到 3 篇

筛选2

攻击类型

越狱1 提示注入2

攻击技术

自动化搜索1 跨模态载荷1

防御类型

指令与数据隔离1 权限与审批1

影响

有害内容1 越权操作1 输出被操纵1

系统形态

模型与 API1 AI Agent2

攻击者权限

攻击面/入口

用户输入1 工具返回2 工具与技能描述1 Agent 间消息1 图像与音视频1

层

提示层1 应用层2

系统组件

MCP 与技能2 护栏与评审2 推理链3 权限与沙箱2 视觉1 视频1 多模态2

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 25 篇还没打标签，不在筛选结果里。

系统组件：权限与沙箱系统组件：视频话题：Google DeepMind 清除全部

另有 25 篇论文还没打上分类标签，暂不在筛选结果里。

防御arXiv:2609.11757 · 9月10日
研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御
提出 A-VIP，将购物意图绑定到支付授权以阻断商户文本操控
AI Agent测试gemini-2.5-flash-lite、gemini-3.1-flash-lite、gemini-3-flash-preview 等 15 个应用层
摘要论文揭示了 AP2 协议决策层受操纵的风险，提出结构化与权能绑定防御 A-VIP，并发布评测基准。
完整解读
攻击arXiv:2608.23858 · 8月25日
研究者对 Google AP2 v0.2 做系统安全分析，识别 48 项威胁
系统分析智能体支付协议 AP2，揭示合法签名无法阻止前置上下文操纵
AI Agent测试gpt-5.3、gpt-5.5应用层
完整解读
攻击arXiv:2609.38899 · 9月30日
SceneJail：利用视频场景上下文越狱多模态大模型
提出 SceneJail，利用视频情境上下文越狱视频多模态模型
模型与 API攻击者黑盒测试Qwen2.5-VL-7B-Instruct、Qwen2.5-VL-32B-Instruct、Qwen3-VL-8B-Instruct 等 8 个提示层
完整解读

已经到底了