Distraction：多模态大语言模型越狱方法
[Daily Paper] Distraction is All You Need for Multimodal Large Language Model Jailbreaking
AI 导读
研究者提出 CS-DJ（Contrasting Subimage Distraction Jailbreaking）框架，通过复杂图像分散多模态大语言模型的注意力来绕过安全对齐。该方法把有害查询拆成子查询并用红色文字转成图像，再用 CLIP 检索与查询差异最大的子图，制造语义分布外（SOOD）状态；论文用 Distraction Distance 度量这种偏移，并称偏移越大攻击成功率越高。论文认为这是架构层面的多模态缺陷，而非某一家模型特有的问题。