Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Jailbreaks and attacks · Papers
Found 10 papers提出 CollageAttack，用空间文本碎片重组越狱文生图模型
- Published
- Evaluated models
- GPT-Image-2, Doubao-Seedream-5.0-Lite, Wan2.7-Image-Pro and others5
Abstract系统揭示 T2I 跨模态空间合成安全漏洞，证实离散无害元素可在图像层面重构有害意图并放大传播强度。
提出 RISE，迭代演化可复用策略对文生图模型做红队
- Published
- Evaluated models
- DALL·E 3, Nano Banana 2, GPT-Image-2 and others7
提出 TempQ-Jail，以查询受限候选排序越狱文生视频模型
- Published
提出 DIVA，将有害意图拆成视觉锚点与运动文本以越狱视频生成模型
- Published
- Evaluated models
- Wan, CogVideoX, LTX-Video and others9
AbstractDIVA 用视觉锚点抑制语义漂移做视频越狱，并给出多条件安全基准 TI2VSafetyBench。
DIVA 是针对带参考图的视频生成模型的免训练 black-box 越狱：用一致性机制本身堵住语义漂移这条安全逃逸路径。。
提出 AdvPIE，在黑盒下搜索表面无害却生成有害图像的提示
- Published
- Evaluated models
- Stable Diffusion 3.5 Large, FLUX.1-schnell, Safe-StableDiffusion 1.5 and others5
提出 CRACK，用多智能体辩论在黑盒下越狱文生图多层安全过滤
- Published
- Evaluated models
- Stable Diffusion v1.4, SDXL, DALL·E 3 and others4
AbstractCRACK 以分层诊断的多智能体辩论搜索多层 T2I 过滤器的联合规避区域。
CRACK 是面向文本生成图像模型多层安全栈的黑盒越狱框架，用几何上的 Detection Surface 解释为何粗粒度反馈不够。
提出 DSR 跨模态越狱，用无害图文诱导 MLLM 生成有害图像
- Published
- Evaluated models
- gemini-2.5-flash-image, qwen-image-2.0, Tongyi Wanx 2.5
AbstractDSR 用无害图文诱导商业 MLLM 输出有害图像，作者称组合能力会反过来扩大攻击面。
DSR 是一种 black-box 跨模态越狱：输入侧不放显式有害内容，而让商业 MLLM 在推理中把无害图文重组成有害图像。
提出 TFM，用起止帧与隐式替换越狱文生视频模型
- Published
- Evaluated models
- Pixverse V5, Hailuo 02, Kling 2.1 Master and others4
AbstractTFM 先抽起止帧再做隐式替换。
TFM 是面向文生视频的严格黑盒提示越狱，利用模型对未写明中间过程的时间补全。
提出纯视觉越狱攻击 VJA，把有害编辑指令编码进图像
- Published
- Evaluated models
- Nano Banana Pro, GPT Image 1.5, Qwen-Image-Edit and others9
AttacksarXiv 2503.01839· 提出 PromptTune，微调 LLM 改写提示以越狱文生图护栏
- Published
- Evaluated models
- SDXL-Turbo, MACE, SafeGen
AbstractLLM 改写可提高过滤器绕过率。
PromptTune 用微调 LLM 改写提示词，攻击带安全过滤器或对齐的文生图模型。
You have reached the end