攻击arXiv 2609.072169月7日
DIVA：利用视觉锚点对视频生成模型实施多模态越狱
提出 DIVA，将有害意图拆成视觉锚点与运动文本以越狱视频生成模型
arXiv
2609.07216
发表
9月7日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
Wan、CogVideoX、LTX-Video 等 9 个
- 攻击越狱
- 技术跨模态载荷
- 组件图像生成
摘要DIVA 用视觉锚点抑制语义漂移做视频越狱，并给出多条件安全基准 TI2VSafetyBench。
DIVA 是针对带参考图的视频生成模型的免训练 black-box 越狱：用一致性机制本身堵住语义漂移这条安全逃逸路径。。
深度解读完整解读
攻击arXiv 2609.055259月2日
DIVA：针对离散扩散视觉语言模型的跨步条件传播视觉越狱
提出 DIVA，利用跨步条件传播对离散扩散视觉语言模型实施视觉越狱
arXiv
2609.05525
发表
9月2日
层
提示层
场景
模型与 API
攻击者
白盒
被测模型
LLaDA-V、MMaDA、LLaDA2.0-Uni
- 攻击越狱
- 技术梯度与表征优化
- 组件视觉
深度解读完整解读
攻击arXiv 2608.040348月3日
HACA：原子越狱策略解耦组合的多模态自动红队方法
提出 HACA，将图文越狱拆为原子策略并自动组合以诱导有害输出
arXiv
2608.04034
发表
8月3日
层
提示层
场景
模型与 API
被测模型
LLaVA-1.6-Mistral-7B、InternVL-3.5-8B、VLGuard (LLaVA-v1.5-7B-Mixed) 等 5 个
- 攻击越狱
- 技术跨模态载荷
- 组件视觉
深度解读完整解读
攻击arXiv 2605.205195月20日
CodecAttack：在音频编解码器潜空间构造对抗扰动，绕过有损压缩防御
提出 CodecAttack，在编解码器隐空间构造可穿透有损压缩的对抗音频
arXiv
2605.20519
发表
5月20日
层
提示层
场景
模型与 API
攻击者
白盒
被测模型
Qwen2-Audio-7B-Instruct、Audio Flamingo 3、Qwen2.5-Omni
- 攻击越狱
- 技术梯度与表征优化
- 组件音频
深度解读完整解读
攻击arXiv 2605.189155月18日
DMN：面向多图输入的多模态大模型组合式越狱框架
提出多图越狱框架 DMN，把有害意图拆进图像序列绕过安全护栏
arXiv
2605.18915
发表
5月18日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
GPT-4V、GPT-4o、GPT-5 等 10 个
- 攻击越狱
- 技术跨模态载荷
- 组件视觉
深度解读完整解读
攻击arXiv 2605.057095月7日
研究者提出利用重构与隐藏权衡的多模态大模型越狱方法
提出删字变体越狱方法，利用重构与隐藏权衡绕过多模态模型安全过滤
arXiv
2605.05709
发表
5月7日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
GPT-5.4-nano、GPT-5.4-mini、Gemini-2.5-Flash 等 19 个
- 攻击越狱
- 技术编码与混淆
- 组件视觉
深度解读完整解读
攻击arXiv 2603.138473月14日
SWhisper 用近超声隐蔽声学通道对语音驱动 LLM 实现黑盒越狱
提出 SWhisper，用近超声波向语音驱动 LLM 隐蔽注入越狱提示
arXiv
2603.13847
发表
3月14日
层
应用层
场景
LLM 应用
攻击者
黑盒
被测模型
Meta-Llama-3.1-8B-Instruct、Gemma-3-4B、Qwen2.5-7B-Instruct 等 9 个
- 攻击越狱
- 技术跨模态载荷
- 组件音频
深度解读完整解读
攻击arXiv 2603.201982月5日
研究者提出 MM-Plan 多模态越狱框架
提出 MM-Plan 多模态越狱框架，自动规划多轮图像编辑以越狱视觉独占目标
arXiv
2603.20198
发表
2月5日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
Llama-3.2-11B、InternVL3-8B、Qwen3-VL-8B 等 8 个
- 攻击越狱
- 技术自动化搜索
- 组件视觉
摘要作者称全局规划能攻破对单轮攻击更稳的前沿 MLLM。
MM-Plan 是面向 Visual Exclusivity 的 black-box 多模态红队方法，并配有人工基准 VE-Safety。
深度解读完整解读
攻击arXiv 2601.053391月9日
多模态大语言模型的多轮越狱攻击与 FragGuard 防御
提出多轮多模态越狱，并用 FragGuard 拦截有害响应
arXiv
2601.05339
发表
1月9日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
LLaVa-1.6 (7B)、LLaVa-1.6 (13B)、Qwen-2-7B 等 5 个
- 防御检测与过滤
- 攻击越狱
- 技术多轮渐进
- 组件视觉
深度解读完整解读
攻击arXiv 2512.201682025年12月23日
Odysseus 用双重隐写越狱 GPT-4o、Gemini-2.0 与 Grok-3
提出双重隐写越狱 Odysseus，用图像隐写绕过多模态系统安全过滤器
arXiv
2512.20168
发表
2025年12月23日
层
应用层
场景
AI Agent
攻击者
黑盒
被测模型
GPT-4o-2024-08-06、Gemini-2.0-pro、Gemini-2.0-flash 等 4 个
- 攻击越狱
- 技术编码与混淆
- 组件护栏与评审
深度解读完整解读

已经到底了

AI 安全日报

读最新一期每天 08:00 出刊