Skip to content

Some text is shown in its original language while the English translation is being prepared.

Original
arXiv· arXiv:2601.14127· Renmiao Chen, Yida Lu, Shiyao Cui, Xuan Ouyang, Victor Shea-Jay Huang, Shumin Zhang, Chengwei Pan, Han Qiu, Minlie Huang·Indexed by this site · Originally publishedDate not givenSelectedAttention55

聪明的副作用：多模态大模型多图推理中的安全风险

The Side Effects of Being Smart: Safety Risks in MLLMs' Multi-Image Reasoning

AI reading guide

清华大学 CoAI 团队提出 MIR-SafetyBench，称其为首个面向多图推理安全的多模态大模型基准，包含 2,676 个实例，覆盖 9 种多图关系与 6 类风险。在 19 个 MLLM 上的评测显示，多图关系攻击普遍奏效，最高总体攻击成功率为 87.63%；在能力范围内，多图推理更强的模型往往攻击成功率更高，而 GPT-5.1 等前沿模型同时具备较强推理能力与较低攻击成功率。作者用四类模式区分安全回答，发现许多安全输出来自误解、笼统拒答或回避，而非真正的安全对齐。注意力熵分析显示，仅在多图场景下，不安全生成的注意力熵平均低于安全生成。代码与数据已发布于 GitHub。

Deep readingGenerating

Why it was selected

论文给出 19 个多模态模型在多图关系攻击下的攻击成功率，并区分了真实拒答与表面安全的回答模式。

Read originalarxiv.org