攻击arXiv 2609.072169月7日
DIVA：利用视觉锚点对视频生成模型实施多模态越狱
提出 DIVA，将有害意图拆成视觉锚点与运动文本以越狱视频生成模型
arXiv
2609.07216
发表
9月7日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
Wan、CogVideoX、LTX-Video 等 9 个
- 攻击越狱
- 技术跨模态载荷
- 组件图像生成
摘要DIVA 用视觉锚点抑制语义漂移做视频越狱，并给出多条件安全基准 TI2VSafetyBench。
DIVA 是针对带参考图的视频生成模型的免训练 black-box 越狱：用一致性机制本身堵住语义漂移这条安全逃逸路径。。
深度解读完整解读
攻击arXiv 2608.155788月16日
ARENA：面向大型音频语言模型的自动化红队框架
提出 ARENA 音频红队框架，自动构造文本安全且音频接地的越狱输入
arXiv
2608.15578
发表
8月16日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
Audio Flamingo 3、Qwen2-Audio-7B-Instruct、MiMo-Audio-7B-Instruct 等 4 个
- 攻击越狱
- 技术自动化搜索
- 组件音频
深度解读完整解读
攻击arXiv 2606.127166月11日
PaperGuard：针对多模态 AI 同行评审的攻击与防御基准
提出 PaperGuard，用图文注入与梯度扰动抬高自动审稿分数并检测恶意指令
arXiv
2606.12716
发表
6月11日
层
应用层
场景
LLM 应用
被测模型
Claude-sonnet-4.5、GPT-4o、GPT-4.1 等 11 个
- 攻击提示注入
- 技术跨模态载荷
- 组件视觉
摘要PaperGuard 测到提示注入与白盒视觉抬分，并比较分块检索防御。
PaperGuard同时评测并检测多模态 AI 审稿中的评分操纵。
深度解读完整解读
攻击arXiv 2604.146044月16日
AudioHijack 框架对 13 个语音大模型实现隐蔽音频提示注入
提出 AudioHijack，用不可感知对抗音频对语音模型做上下文无关提示注入
arXiv
2604.14604
发表
4月16日
层
提示层
场景
模型与 API
被测模型
SpeechGPT、GLM-4-Voice、VITA-Audio 等 15 个
- 攻击提示注入
- 技术梯度与表征优化
- 组件音频
摘要提出了 AudioHijack 框架，揭示了 LALM 对听觉提示注入的脆弱性与传统防御的局限。
深度解读完整解读
攻击arXiv 2603.138473月14日
SWhisper 用近超声隐蔽声学通道对语音驱动 LLM 实现黑盒越狱
提出 SWhisper，用近超声波向语音驱动 LLM 隐蔽注入越狱提示
arXiv
2603.13847
发表
3月14日
层
应用层
场景
LLM 应用
攻击者
黑盒
被测模型
Meta-Llama-3.1-8B-Instruct、Gemma-3-4B、Qwen2.5-7B-Instruct 等 9 个
- 攻击越狱
- 技术跨模态载荷
- 组件音频
深度解读完整解读
攻击arXiv 2602.101792月11日
研究者提出视觉中心越狱攻击 VJA
提出纯视觉越狱攻击 VJA，把有害编辑指令编码进图像
arXiv
2602.10179
发表
2月11日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
Nano Banana Pro、GPT Image 1.5、Qwen-Image-Edit 等 9 个
- 攻击越狱
- 技术跨模态载荷
- 组件图像生成
深度解读完整解读
攻击arXiv 2601.232551月31日
研究者提出音频叙事越狱攻击
提出音频叙事越狱，以嗓音投递风格绕过端到端语音模型拒答
arXiv
2601.23255
发表
1月31日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
GPT-4o Realtime、Gemini 2.0 Flash、Qwen2.5-Omni-7B
- 攻击越狱
- 技术角色扮演与说服
- 组件音频
深度解读完整解读
攻击arXiv 2511.106922025年11月12日
StyleBreak：利用风格化音频越狱揭示大型音频语言模型的对齐漏洞
提出 StyleBreak 风格化音频越狱，利用语音属性绕过音频语言模型对齐
arXiv
2511.10692
发表
2025年11月12日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
Qwen2-Audio-7B-Instruct、MERaLiON-AudioLLM-Whisper-SEA-LION、Ultravox-v0.4.1-Llama-3.1-8B 等 6 个
- 攻击越狱
- 技术跨模态载荷
- 组件音频
深度解读完整解读

已经到底了

AI 安全日报

读最新一期每天 08:00 出刊