攻击arXiv 2609.382539月29日
CollageAttack：利用跨模态对齐缺陷对 T2I 模型实施空间文本组合越狱
提出 CollageAttack，用空间文本碎片重组越狱文生图模型
arXiv
2609.38253
发表
9月29日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
GPT-Image-2、Doubao-Seedream-5.0-Lite、Wan2.7-Image-Pro 等 5 个
- 攻击越狱
- 技术编码与混淆
- 组件图像生成
摘要系统揭示 T2I 跨模态空间合成安全漏洞，证实离散无害元素可在图像层面重构有害意图并放大传播强度。
深度解读完整解读
攻击arXiv 2609.072169月7日
DIVA：利用视觉锚点对视频生成模型实施多模态越狱
提出 DIVA，将有害意图拆成视觉锚点与运动文本以越狱视频生成模型
arXiv
2609.07216
发表
9月7日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
Wan、CogVideoX、LTX-Video 等 9 个
- 攻击越狱
- 技术跨模态载荷
- 组件图像生成
摘要DIVA 用视觉锚点抑制语义漂移做视频越狱，并给出多条件安全基准 TI2VSafetyBench。
DIVA 是针对带参考图的视频生成模型的免训练 black-box 越狱：用一致性机制本身堵住语义漂移这条安全逃逸路径。。
深度解读完整解读
攻击arXiv 2609.055259月2日
DIVA：针对离散扩散视觉语言模型的跨步条件传播视觉越狱
提出 DIVA，利用跨步条件传播对离散扩散视觉语言模型实施视觉越狱
arXiv
2609.05525
发表
9月2日
层
提示层
场景
模型与 API
攻击者
白盒
被测模型
LLaDA-V、MMaDA、LLaDA2.0-Uni
- 攻击越狱
- 技术梯度与表征优化
- 组件视觉
深度解读完整解读
攻击arXiv 2608.040348月3日
HACA：原子越狱策略解耦组合的多模态自动红队方法
提出 HACA，将图文越狱拆为原子策略并自动组合以诱导有害输出
arXiv
2608.04034
发表
8月3日
层
提示层
场景
模型与 API
被测模型
LLaVA-1.6-Mistral-7B、InternVL-3.5-8B、VLGuard (LLaVA-v1.5-7B-Mixed) 等 5 个
- 攻击越狱
- 技术跨模态载荷
- 组件视觉
深度解读完整解读
攻击arXiv 2606.090846月8日
研究者提出 Context-Fractured Decomposition 攻击
提出 CFD 跨会话分解攻击，利用工件来源缺口绕过工具型 Agent 的本地检查
arXiv
2606.09084
发表
6月8日
层
应用层
场景
AI Agent
被测模型
GPT-4.1、GPT-5-nano、Claude-3.5-Sonnet 等 6 个
- 攻击越狱
- 技术潜伏触发
- 组件记忆
摘要CFD 用无指令 artifact 把越狱拆到跨会话。
CFD针对工具型 LLM 智能体：利用 artifact 来源不被跟踪这一部署失败模式，把有害目标拆开后延迟组合。
深度解读完整解读
攻击arXiv 2605.205195月20日
CodecAttack：在音频编解码器潜空间构造对抗扰动，绕过有损压缩防御
提出 CodecAttack，在编解码器隐空间构造可穿透有损压缩的对抗音频
arXiv
2605.20519
发表
5月20日
层
提示层
场景
模型与 API
攻击者
白盒
被测模型
Qwen2-Audio-7B-Instruct、Audio Flamingo 3、Qwen2.5-Omni
- 攻击越狱
- 技术梯度与表征优化
- 组件音频
深度解读完整解读
攻击arXiv 2605.189155月18日
DMN：面向多图输入的多模态大模型组合式越狱框架
提出多图越狱框架 DMN，把有害意图拆进图像序列绕过安全护栏
arXiv
2605.18915
发表
5月18日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
GPT-4V、GPT-4o、GPT-5 等 10 个
- 攻击越狱
- 技术跨模态载荷
- 组件视觉
深度解读完整解读
攻击arXiv 2605.057095月7日
研究者提出利用重构与隐藏权衡的多模态大模型越狱方法
提出删字变体越狱方法，利用重构与隐藏权衡绕过多模态模型安全过滤
arXiv
2605.05709
发表
5月7日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
GPT-5.4-nano、GPT-5.4-mini、Gemini-2.5-Flash 等 19 个
- 攻击越狱
- 技术编码与混淆
- 组件视觉
深度解读完整解读
攻击arXiv 2603.138473月14日
SWhisper 用近超声隐蔽声学通道对语音驱动 LLM 实现黑盒越狱
提出 SWhisper，用近超声波向语音驱动 LLM 隐蔽注入越狱提示
arXiv
2603.13847
发表
3月14日
层
应用层
场景
LLM 应用
攻击者
黑盒
被测模型
Meta-Llama-3.1-8B-Instruct、Gemma-3-4B、Qwen2.5-7B-Instruct 等 9 个
- 攻击越狱
- 技术跨模态载荷
- 组件音频
深度解读完整解读
攻击arXiv 2512.201682025年12月23日
Odysseus 用双重隐写越狱 GPT-4o、Gemini-2.0 与 Grok-3
提出双重隐写越狱 Odysseus，用图像隐写绕过多模态系统安全过滤器
arXiv
2512.20168
发表
2025年12月23日
层
应用层
场景
AI Agent
攻击者
黑盒
被测模型
GPT-4o-2024-08-06、Gemini-2.0-pro、Gemini-2.0-flash 等 4 个
- 攻击越狱
- 技术编码与混淆
- 组件护栏与评审
深度解读完整解读

已经到底了

AI 安全日报

读最新一期每天 08:00 出刊