CollageAttack:利用跨模态对齐缺陷对 T2I 模型实施空间文本组合越狱
提出 CollageAttack,用空间文本碎片重组越狱文生图模型
- arXiv
- 2609.38253
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 攻击者
- 黑盒
- 被测模型
- GPT-Image-2、Doubao-Seedream-5.0-Lite、Wan2.7-Image-Pro 等5个
摘要系统揭示 T2I 跨模态空间合成安全漏洞,证实离散无害元素可在图像层面重构有害意图并放大传播强度。
提出 CollageAttack,用空间文本碎片重组越狱文生图模型
摘要系统揭示 T2I 跨模态空间合成安全漏洞,证实离散无害元素可在图像层面重构有害意图并放大传播强度。
提出 DIVA,将有害意图拆成视觉锚点与运动文本以越狱视频生成模型
DIVA 是针对带参考图的视频生成模型的免训练 black-box 越狱:用一致性机制本身堵住语义漂移这条安全逃逸路径。。
提出 SpeechJBB,评测语码转换语音下音频语言模型的越狱稳健性
SpeechJBB 用合成语音测量 LALM 在五语、语码转换和局部伪词混淆下的安全对齐,并另设口语理解对照。
提出 DSR 跨模态越狱,用无害图文诱导 MLLM 生成有害图像
DSR 是一种 black-box 跨模态越狱:输入侧不放显式有害内容,而让商业 MLLM 在推理中把无害图文重组成有害图像。
提出 CodecAttack,在编解码器隐空间构造可穿透有损压缩的对抗音频
提出 AudioHijack,用不可感知对抗音频对语音模型做上下文无关提示注入
摘要提出了 AudioHijack 框架,揭示了 LALM 对听觉提示注入的脆弱性与传统防御的局限。
提出 SWhisper,用近超声波向语音驱动 LLM 隐蔽注入越狱提示
提出 TFM,用起止帧与隐式替换越狱文生视频模型
TFM 是面向文生视频的严格黑盒提示越狱,利用模型对未写明中间过程的时间补全。
提出 BVS 图文越狱,用中和拼接图和诱导提示词让模型生成有害图像
BVS 用图文对诱导 MLLM 生成有害图像。作者认为,相对文本越狱和单模态图像诱导,视觉生成的安全审查仍不充分。
提出 SOUNDBREAK,用仅音频共享对抗扰动使三模态模型答错
提出 MacPrompt 跨语言字符重组越狱,绕过文生图模型的过滤与概念移除
提出 PC² 越狱,用身份保持描述与远端多语翻译绕过文生图过滤
提出 MULTI-AUDIOJAIL,以多语多口音和声学扰动越狱音频模型
摘要黑盒多语多口音音频加声学扰动可抬高 LALM 的 JSR,文本示范防御并非在每个模型上都下降。