10月8日 · 周四

Google DeepMind · 论文

找到 3 篇

筛选2

攻击类型

攻击技术

梯度与表征优化1 自动化搜索3 多轮渐进1 编码与混淆1 角色扮演与说服1 对话结构操控2 推理链操控3 跨模态载荷2 潜伏触发1

影响

系统形态

攻击者权限

黑盒3 白盒1

攻击面/入口

用户输入3 图像与音视频2

层

系统组件

视觉1 视频1 多模态2

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 25 篇还没打标签，不在筛选结果里。

攻击技术：梯度与表征优化攻击技术：跨模态载荷话题：Google DeepMind 清除全部

另有 25 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2607.23496 · 7月26日
Concept2Scenario：用 SAE 概念归因发现可迁移的越狱场景
提出 Concept2Scenario，借助内部概念归因发现可迁移的越狱场景
模型与 API攻击者白盒黑盒测试Qwen3.5-9B、Llama-3.1-8B、Ministral-3-8B 等 10 个提示层
摘要该研究从表征空间因果归因揭示场景削弱拒绝的机制，发现可复用脆弱场景先验，提升多模型黑盒越狱效能与探索速度。
完整解读
攻击arXiv:2608.27531 · 8月27日
MAMJ：面向视觉语言模型的元自适应多模态越狱攻击
提出 MAMJ，在元层面交替优化多模态越狱的策略提示与攻击者权重
模型与 API攻击者黑盒测试GPT-4o、Gemini-3-Pro-Preview、Seed 2.0 等 4 个提示层
完整解读
攻击arXiv:2609.38899 · 9月30日
SceneJail：利用视频场景上下文越狱多模态大模型
提出 SceneJail，利用视频情境上下文越狱视频多模态模型
模型与 API攻击者黑盒测试Qwen2.5-VL-7B-Instruct、Qwen2.5-VL-32B-Instruct、Qwen3-VL-8B-Instruct 等 8 个提示层
完整解读

已经到底了