Skip to content

Some text is shown in its original language while the English translation is being prepared.

Original
arXiv· arXiv:2601.14127· Renmiao Chen, Yida Lu, Shiyao Cui, Xuan Ouyang, Victor Shea-Jay Huang, Shumin Zhang, Chengwei Pan, Han Qiu, Minlie Huang·Indexed by this site · Originally publishedSelectedAttention55

聪明的副作用：多模态大模型多图推理中的安全风险

The Side Effects of Being Smart: Safety Risks in MLLMs' Multi-Image Reasoning

Quick read

Based on 论文全文 （AI 生成）; refer to the original

AI reading guide清华大学 CoAI 团队提出 MIR-SafetyBench，称其为首个面向多图推理安全的多模态大模型基准，包含 2,676 个实例，覆盖 9 种多图关系与 6 类风险。

Questions
多模态大模型（MLLM）的多图推理能力增强后，可能带来新的安全风险。现有安全评测多关注显式有害内容，忽略了危害只在多图关系推理过程中才浮现的 reasoning-based safety。
Methods
作者构建了 MIR-SafetyBench，包含 2,676 个实例，覆盖 9 种多图关系（时序、空间、语义、逻辑）和 6 类风险。实例由 DeepSeek-R1 改写、FLUX.1-dev 生成图像、Qwen2.5-VL 测试、HarmBench 判定，并经多轮迭代筛选。
Experiments and results
在 19 个 MLLM 上评测，最高总体 ASR 达 87.63%，多图关系攻击普遍有效；多图推理更强的模型往往 ASR 更高。许多被标为安全的回答实为误解、泛化拒绝或回避，且不安全生成的平均 attention entropy 低于安全生成。
Limitations and future work
基准为合成数据，覆盖不穷尽，继承源数据集与自动流程的偏差；依赖特定自动组件，人工仅抽查。评测限于单轮提示和分类器 ASR，attention entropy 分析仅 4 个模型且为相关性证据。作者未提出缓解或检测方法。
AI reading guideand selection rationale在 19 个 MLLM 上的评测显示，多图关系攻击普遍奏效，最高总体攻击成功率为 87.63%；在能力范围内，多图推理更强的模型往往攻击成功率更高，而 GPT-5.1 等前沿模型同时具备较强推理能力与较低攻击成功率。作者用四类模式区分安全回答，发现许多安全输出来自误解、笼统拒答或回避，而非真正的安全对齐。注意力熵分析显示，仅在多图场景下，不安全生成的注意力熵平均低于安全生成。代码与数据已发布于 GitHub。

清华大学 CoAI 团队提出 MIR-SafetyBench，称其为首个面向多图推理安全的多模态大模型基准，包含 2,676 个实例，覆盖 9 种多图关系与 6 类风险。在 19 个 MLLM 上的评测显示，多图关系攻击普遍奏效，最高总体攻击成功率为 87.63%；在能力范围内，多图推理更强的模型往往攻击成功率更高，而 GPT-5.1 等前沿模型同时具备较强推理能力与较低攻击成功率。作者用四类模式区分安全回答，发现许多安全输出来自误解、笼统拒答或回避，而非真正的安全对齐。注意力熵分析显示，仅在多图场景下，不安全生成的注意力熵平均低于安全生成。代码与数据已发布于 GitHub。

Why it was selected论文给出 19 个多模态模型在多图关系攻击下的攻击成功率，并区分了真实拒答与表面安全的回答模式。

Deep readingGenerating

Read originalarxiv.org