10月9日 · 周五

Google DeepMind · 论文

找到 3 篇

筛选4

攻击类型

提示注入2 提取与窃取1

防御类型

指令与数据隔离1 权限与审批1

影响

越权操作1 数据与隐私泄露1 输出被操纵1

系统形态

模型与 API1 AI Agent2 多智能体1

攻击者权限

攻击面/入口

用户输入1 网页与界面1 文档与消息1 工具返回2 工具与技能描述2 代码仓库与依赖2 检索语料1 记忆写入1 Agent 间消息1

层

提示层9 模型层1 应用层2

系统组件

MCP 与技能1 权限与沙箱1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 23 篇还没打标签，不在筛选结果里。

攻击面/入口：用户输入攻击面/入口：工具返回层：模型层层：应用层话题：Google DeepMind 清除全部

另有 23 篇论文还没打上分类标签，暂不在筛选结果里。

防御arXiv 2609.117579月10日
研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御
提出 Whisper 攻击与 A-VIP 绑定防御，约束智能体支付决策
arXiv
2609.11757
发表
9月10日
层
应用层
场景
AI Agent
测试
gemini-2.5-flash-lite、gemini-3.1-flash-lite、gemini-3-flash-preview 等 15 个
- 防御权限与审批
- 攻击提示注入
- 组件权限与沙箱
摘要论文揭示了 AP2 协议决策层受操纵的风险，提出结构化与权能绑定防御 A-VIP，并发布评测基准。
深度解读完整解读
攻击arXiv 2608.238588月25日
研究者对 Google AP2 v0.2 做系统安全分析，识别 48 项威胁
系统分析 AP2 支付协议的授权安全并验证前置上下文操纵
arXiv
2608.23858
发表
8月25日
层
应用层
场景
多智能体
测试
gpt-5.3、gpt-5.5
- 攻击提示注入
- 组件MCP 与技能
深度解读完整解读
攻击arXiv 2609.106119月8日
WPMIA：面向严格黑盒大模型的词级概率成员推断攻击
提出严格黑盒成员推断 WPMIA，用采样估计词级概率判断训练成员
arXiv
2609.10611
发表
9月8日
层
模型层
场景
模型与 API
攻击者
黑盒
测试
OPT-6.7B、Pythia-6.9B、LLaMA-13B 等 12 个
- 攻击提取与窃取
摘要WPMIA 从续写估计词级似然并对比前缀，黑盒上多数优于所列基线。
WPMIA 是面向严格黑盒的 LLM 预训练数据成员推断：攻击者只能看到文本续写。
深度解读完整解读

已经到底了