10月8日 · 周四

Google DeepMind · 论文

找到 3 篇

筛选2

攻击类型

越狱2 提示注入1

攻击技术

自动化搜索2 跨模态载荷2

影响

有害内容2 越权操作1

系统形态

模型与 API2 AI Agent1

攻击者权限

攻击面/入口

用户输入8 网页与界面1 文档与消息1 工具返回2 工具与技能描述2 代码仓库与依赖3 检索语料1 记忆写入1 Agent 间消息1 图像与音视频2

层

提示层2 应用层1

系统组件

MCP 与技能1 权限与沙箱1 视觉1 视频1 多模态2

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 30 篇还没打标签，不在筛选结果里。

攻击面/入口：Agent 间消息攻击面/入口：图像与音视频话题：Google DeepMind 清除全部

另有 30 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv 2608.275318月27日
MAMJ：面向视觉语言模型的元自适应多模态越狱攻击
提出 MAMJ，在元层面交替优化多模态越狱的策略提示与攻击者权重
arXiv
2608.27531
发表
8月27日
层
提示层
场景
模型与 API
攻击者
黑盒
测试
GPT-4o、Gemini-3-Pro-Preview、Seed 2.0 等 4 个
- 攻击越狱
- 技术自动化搜索
- 组件视觉
深度解读完整解读
攻击arXiv 2608.238588月25日
研究者对 Google AP2 v0.2 做系统安全分析，识别 48 项威胁
系统分析智能体支付协议 AP2，揭示合法签名无法阻止前置上下文操纵
arXiv
2608.23858
发表
8月25日
层
应用层
场景
AI Agent
测试
gpt-5.3、gpt-5.5
- 攻击提示注入
- 组件MCP 与技能
深度解读完整解读
攻击arXiv 2609.388999月30日
SceneJail：利用视频场景上下文越狱多模态大模型
提出 SceneJail，利用视频情境上下文越狱视频多模态模型
arXiv
2609.38899
发表
9月30日
层
提示层
场景
模型与 API
攻击者
黑盒
测试
Qwen2.5-VL-7B-Instruct、Qwen2.5-VL-32B-Instruct、Qwen3-VL-8B-Instruct 等 8 个
- 攻击越狱
- 技术跨模态载荷
- 组件视频
深度解读完整解读

已经到底了