迈向视觉语言模型的通用可迁移越狱攻击
Toward Universal and Transferable Jailbreak Attacks on Vision-Language Models
AI 导读
研究者提出 UltraBreak，一个面向视觉语言模型的通用可迁移越狱攻击框架，实验显示其持续优于此前的越狱方法。该方法在视觉空间通过变换与正则化约束对抗图案，并在目标 LLM 的文本嵌入空间中定义损失，用语义目标放宽文本目标，以缓解对单一白盒替代模型的过拟合。分析指出，用语义目标平滑损失曲面是实现通用可迁移越狱的关键。代码已在 GitHub 公开。