攻击arXiv 2609.072169月7日
DIVA：利用视觉锚点对视频生成模型实施多模态越狱
提出 DIVA，将有害意图拆成视觉锚点与运动文本以越狱视频生成模型
arXiv
2609.07216
发表
9月7日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
Wan、CogVideoX、LTX-Video 等 9 个
- 攻击越狱
- 技术跨模态载荷
- 组件图像生成
摘要DIVA 用视觉锚点抑制语义漂移做视频越狱，并给出多条件安全基准 TI2VSafetyBench。
DIVA 是针对带参考图的视频生成模型的免训练 black-box 越狱：用一致性机制本身堵住语义漂移这条安全逃逸路径。。
深度解读完整解读
防御arXiv 2608.128768月13日
SPARED：用对抗编辑数据训练基于推理的 AI 生成图像检测器
提出 SPARED，用对抗编辑数据训练基于推理的 AI 生成图像检测器
arXiv
2608.12876
发表
8月13日
层
训练与数据层
场景
模型与 API
攻击者
黑盒、白盒
被测模型
Qwen3.5-9B
- 防御检测与过滤
- 攻击检测规避
- 组件护栏与评审
摘要SPARED 用防捷径的编辑对抗环训练 9B 推理检测器。
SPARED 是一套用于可解释 AI 生成图像检测的攻防强化学习流程，报告模型是 Qwen3.5-9B 上的第三轮防御器。
深度解读完整解读
防御arXiv 2608.064228月6日
CMU 研究：分片判断可避免 LLM 监督失效并抵御对抗利用
提出分片监督，将评判标准分配给独立调用以抵御展示攻击
arXiv
2608.06422
发表
8月6日
层
应用层
场景
LLM 应用
攻击者
黑盒
被测模型
Claude Opus 4.8、Claude Sonnet 4.6、Claude Opus 4.6 等 4 个
- 防御检测与过滤
- 攻击检测规避
- 组件护栏与评审
摘要论文揭示决策负载是大模型监督的独立瓶颈，提出分片与辩论机制有效分离注意力与平衡证据，在多项高难度基准上实现稳健评判。
本文系统研究了大语言模型在执行多标准监督与评判时的决策负载瓶颈及其安全风险。
深度解读完整解读
攻击arXiv 2606.145176月12日
研究者披露针对 LLM Agent 护栏的推理扩展型拒绝服务攻击
提出针对 Agent 护栏的推理扩展拒绝服务攻击
arXiv
2606.14517
发表
6月12日
层
应用层
场景
AI Agent
攻击者
黑盒
被测模型
TS-Guard-8B、Qwen3.5-9B、DeepSeek-V3.2 等 11 个
- 攻击拒绝服务
- 技术推理链操控
- 组件护栏与评审
深度解读完整解读
攻击arXiv 2605.189155月18日
DMN：面向多图输入的多模态大模型组合式越狱框架
提出多图越狱框架 DMN，把有害意图拆进图像序列绕过安全护栏
arXiv
2605.18915
发表
5月18日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
GPT-4V、GPT-4o、GPT-5 等 10 个
- 攻击越狱
- 技术跨模态载荷
- 组件视觉
深度解读完整解读
攻击arXiv 2602.101792月11日
研究者提出视觉中心越狱攻击 VJA
提出纯视觉越狱攻击 VJA，把有害编辑指令编码进图像
arXiv
2602.10179
发表
2月11日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
Nano Banana Pro、GPT Image 1.5、Qwen-Image-Edit 等 9 个
- 攻击越狱
- 技术跨模态载荷
- 组件图像生成
深度解读完整解读
攻击arXiv 2601.053391月9日
多模态大语言模型的多轮越狱攻击与 FragGuard 防御
提出多轮多模态越狱，并用 FragGuard 拦截有害响应
arXiv
2601.05339
发表
1月9日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
LLaVa-1.6 (7B)、LLaVa-1.6 (13B)、Qwen-2-7B 等 5 个
- 防御检测与过滤
- 攻击越狱
- 技术多轮渐进
- 组件视觉
深度解读完整解读
攻击arXiv 2512.201682025年12月23日
Odysseus 用双重隐写越狱 GPT-4o、Gemini-2.0 与 Grok-3
提出双重隐写越狱 Odysseus，用图像隐写绕过多模态系统安全过滤器
arXiv
2512.20168
发表
2025年12月23日
层
应用层
场景
AI Agent
攻击者
黑盒
被测模型
GPT-4o-2024-08-06、Gemini-2.0-pro、Gemini-2.0-flash 等 4 个
- 攻击越狱
- 技术编码与混淆
- 组件护栏与评审
深度解读完整解读
攻击arXiv 2503.062232025年3月8日
RedDiffuser：用强化扩散生成视觉输入审计 VLM 多模态安全失效
提出 RedDiff，用强化扩散生成图像审计 VLM 情境安全失效
arXiv
2503.06223
发表
2025年3月8日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
LLaVA-1.5-7B、Gemini-1.5-flash、LLaMA-3.2-11B-Vision-Instruct
- 攻击越狱
- 技术自动化搜索
- 组件视觉
摘要用强化扩散生成视觉上下文，审计有害文本情境下的 VLM 安全失效。
RedDiffuser 是黑盒审计框架：有害内容不是显式攻击指令，而是固定的部分有毒文本，再配上扩散模型生成的图像，看 VLM 的开放续写会不会变得不安全。
深度解读完整解读

已经到底了

AI 安全日报

读最新一期每天 08:00 出刊