跳到正文
原文

披着权威外衣:利用视觉信任偏差对 MLLM 的实用黑盒越狱

Dressed in Authority: Practical Black-Box Jailbreaking of MLLMs via Visual Trust Bias

arXiv:其他 AI 安全论文· arXiv:2611.22292· Weihang Liu, Qianqian Xu, Yangbangyan Jiang, Zitai Wang, Zhipeng Yu, Qingming Huang·本站收录· 2 天前· 原文发表攻击· 扫描记录里的位置 →
AI 导读

研究者提出针对多模态大模型(MLLM)的黑盒越狱框架 Visual Trust Bias Attack(VTBA),利用模型对权威视觉特征的内在信任偏差绕过安全拒答,在多个强 MLLM 上取得持续较高的攻击成功率。与往通过注入脆弱对抗扰动或合成毒性视觉线索实施攻击的方法不同,VTBA 直接作用于自然存在的有害图文对,攻击可迁移且隐蔽。方法上,VTBA 构建权威模板库,为每个输入图文对匹配最相关模板,并把有害意图嵌入所选版式,借助可信视觉线索覆盖拒答同时保持自然性。作者还构建了含 2500 对自然图文对的数据集用于评测,并称结果揭示了当前多模态安全对齐中一个严重且此前研究不足的弱点。

阅读原文arxiv.org