结构化视觉叙事削弱多模态大语言模型的安全对齐
[Daily Paper] Structured Visual Narratives Undermine Safety Alignment in Multimodal Large Language Models
AI 导读
一篇新论文提出 ComicJailbreak 基准与攻击框架，通过把有害目标拆解成多格漫画叙事序列，绕过 15 个多模态大语言模型的安全护栏。该基准包含 1,167 个攻击实例，覆盖六类危害与单图、序列叙事、图文交错三种设置；在商业多模态模型上，多个危害类别的集成攻击成功率超过 90%，序列叙事攻击显著优于单图攻击，攻击配置在不同架构间也有较高迁移性。论文指出，现有对齐主要针对文本层面的危害指标，图像安全由逐帧分类器处理，漫画利用了两者之间的空隙；具备更强图像级过滤的模型对单图变体有一定抵抗力，但对没有任何单帧被标记为有害的多格序列攻击仍成功率偏高。论文还发现自动安全评判器对敏感但无害内容的过度拒答率偏高，并呼吁发展面向图像序列与叙事弧的对齐方法。