评测与基准arXiv 2610.1111210月8日
EpiReal-Bench：商用图像生成模型虚假声明红队基准
构建 EpiReal-Bench，评测图像生成器将虚假主张渲染为可信证据
arXiv
2610.11112
发表
10月8日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
GPT-Image-2、Nano Banana 2、Grok Imagen 2.0 等 4 个
- 攻击越狱
- 组件图像生成
摘要四款商用图像模型能把假主张画成可信证据。
EpiReal-Bench 用来量商用图像生成器会不会把虚假现实主张画成可信视觉证据。
深度解读完整解读
攻击arXiv 2609.382539月29日
CollageAttack：利用跨模态对齐缺陷对 T2I 模型实施空间文本组合越狱
提出 CollageAttack，用空间文本碎片重组越狱文生图模型
arXiv
2609.38253
发表
9月29日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
GPT-Image-2、Doubao-Seedream-5.0-Lite、Wan2.7-Image-Pro 等 5 个
- 攻击越狱
- 技术编码与混淆
- 组件图像生成
摘要系统揭示 T2I 跨模态空间合成安全漏洞，证实离散无害元素可在图像层面重构有害意图并放大传播强度。
深度解读完整解读
攻击arXiv 2609.349209月28日
RISE：用迭代策略演化对现代文生图模型做红队测试
提出 RISE，迭代演化可复用策略对文生图模型做红队
arXiv
2609.34920
发表
9月28日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
DALL·E 3、Nano Banana 2、GPT-Image-2 等 7 个
- 攻击越狱
- 技术自动化搜索
- 组件图像生成
深度解读完整解读
攻击arXiv 2609.310329月25日
TempQ-Jail：面向文生视频越狱的查询受限候选排序方法
提出 TempQ-Jail，以查询受限候选排序越狱文生视频模型
arXiv
2609.31032
发表
9月25日
层
提示层
场景
模型与 API
- 攻击越狱
- 组件图像生成
摘要待补读全文。
待补读全文。
深度解读完整解读
攻击arXiv 2609.159899月15日
研究者提出 plan injection 攻击，可绕过思维链监控
提出 plan injection 攻击，植入良性伪装计划以绕过思维链监视器
arXiv
2609.15989
发表
9月15日
层
提示层
场景
模型与 API
攻击者
灰盒
被测模型
Qwen2.5-Coder-7B-Instruct、Qwen3-8B、DeepSeek-R1-0528 等 6 个
- 攻击检测规避
- 技术推理链操控
- 组件监控器
摘要论文指出模型会将外部上下文中的伪装计划改写为自身推理，使思维链监视器失效甚至反向合理化恶意行为。
深度解读完整解读
攻击arXiv 2609.072169月7日
DIVA：利用视觉锚点对视频生成模型实施多模态越狱
提出 DIVA，将有害意图拆成视觉锚点与运动文本以越狱视频生成模型
arXiv
2609.07216
发表
9月7日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
Wan、CogVideoX、LTX-Video 等 9 个
- 攻击越狱
- 技术跨模态载荷
- 组件图像生成
摘要DIVA 用视觉锚点抑制语义漂移做视频越狱，并给出多条件安全基准 TI2VSafetyBench。
DIVA 是针对带参考图的视频生成模型的免训练 black-box 越狱：用一致性机制本身堵住语义漂移这条安全逃逸路径。。
深度解读完整解读
攻击arXiv 2609.060949月5日
AdvPIE：面向文生图模型隐式漏洞的自动红队框架
提出 AdvPIE，在黑盒下搜索表面无害却生成有害图像的提示
arXiv
2609.06094
发表
9月5日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
Stable Diffusion 3.5 Large、FLUX.1-schnell、Safe-StableDiffusion 1.5 等 5 个
- 攻击越狱
- 技术自动化搜索
- 组件图像生成
深度解读完整解读
攻击arXiv 2609.011689月1日
CRACK：用多智能体辩论越狱多层安全过滤的 T2I 模型
提出 CRACK，用多智能体辩论在黑盒下越狱文生图多层安全过滤
arXiv
2609.01168
发表
9月1日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
Stable Diffusion v1.4、SDXL、DALL·E 3 等 4 个
- 攻击越狱
- 技术自动化搜索
- 组件图像生成
摘要CRACK 以分层诊断的多智能体辩论搜索多层 T2I 过滤器的联合规避区域。
CRACK 是面向文本生成图像模型多层安全栈的黑盒越狱框架，用几何上的 Detection Surface 解释为何粗粒度反馈不够。
深度解读完整解读
攻击arXiv 2609.010239月1日
Akrasia：针对推理型代码 LLM 的隐蔽后门攻击
提出隐蔽后门攻击 AKRASIA，在推理代码模型提示中植入触发器并伪装思维链
arXiv
2609.01023
发表
9月1日
层
提示层
场景
coding agent
被测模型
Claude-Sonnet-5、GPT-5.5、Gemini-3.5-flash 等 7 个
- 攻击提示注入
- 技术推理链操控
- 组件推理链
摘要论文针对推理代码大模型提出了隐蔽推断期后门攻击 AKRASIA，揭示了模型思维链可被利用进行欺骗性伪装的安全隐患。
深度解读完整解读
攻击arXiv 2608.155788月16日
ARENA：面向大型音频语言模型的自动化红队框架
提出 ARENA 音频红队框架，自动构造文本安全且音频接地的越狱输入
arXiv
2608.15578
发表
8月16日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
Audio Flamingo 3、Qwen2-Audio-7B-Instruct、MiMo-Audio-7B-Instruct 等 4 个
- 攻击越狱
- 技术自动化搜索
- 组件音频
深度解读完整解读
评测与基准arXiv 2606.060376月4日
SpeechJBB：语码转换语音下大型音频语言模型的越狱基准
提出 SpeechJBB，评测语码转换语音下音频语言模型的越狱稳健性
arXiv
2606.06037
发表
6月4日
层
提示层
场景
模型与 API
被测模型
Qwen2.5-Omni-7B、Qwen3-Omni-30B-A3B-Instruct、Voxtral-Small-24B 等 9 个
- 攻击越狱
- 技术编码与混淆
- 组件音频
摘要SpeechJBB 用五语语码转换语音和伪词探针评测九个 LALM，作者将越狱归为对齐失败而非听不懂。
SpeechJBB 用合成语音测量 LALM 在五语、语码转换和局部伪词混淆下的安全对齐，并另设口语理解对照。
深度解读完整解读
攻击arXiv 2602.101792月11日
研究者提出视觉中心越狱攻击 VJA
提出纯视觉越狱攻击 VJA，把有害编辑指令编码进图像
arXiv
2602.10179
发表
2月11日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
Nano Banana Pro、GPT Image 1.5、Qwen-Image-Edit 等 9 个
- 攻击越狱
- 技术跨模态载荷
- 组件图像生成
深度解读完整解读
攻击arXiv 2511.106922025年11月12日
StyleBreak：利用风格化音频越狱揭示大型音频语言模型的对齐漏洞
提出 StyleBreak 风格化音频越狱，利用语音属性绕过音频语言模型对齐
arXiv
2511.10692
发表
2025年11月12日
层
提示层
场景
模型与 API
攻击者
黑盒
被测模型
Qwen2-Audio-7B-Instruct、MERaLiON-AudioLLM-Whisper-SEA-LION、Ultravox-v0.4.1-Llama-3.1-8B 等 6 个
- 攻击越狱
- 技术跨模态载荷
- 组件音频
深度解读完整解读
攻击arXiv 2509.094882025年9月11日
研究者提出 SeedSnitch 与 PromptPirate，利用种子漏洞窃取扩散模型提示词
提出 SeedSnitch 与 PromptPirate，恢复种子后窃取扩散提示词
arXiv
2509.09488
发表
2025年9月11日
层
提示层
场景
模型与 API
被测模型
Stable Diffusion 3.5 Large、Stable Diffusion 3.5 Medium、Stable Diffusion 3.5 Turbo 等 4 个
- 攻击提取与窃取
- 技术自动化搜索
- 组件图像生成
深度解读完整解读

已经到底了

AI 安全日报

读最新一期每天 08:00 出刊