OOD-MMSafe：从有害意图到隐藏后果推进多模态大模型安全
OOD-MMSafe: Advancing MLLM Safety from Harmful Intent to Hidden Consequences
AI 导读
研究者提出 OOD-MMSafe 基准，用 455 组查询-图像对评估多模态大模型在情境依赖因果链中识别潜在危害的能力，将安全关注点从有害意图扩展到隐藏后果。分析显示前沿模型普遍存在因果盲区，高容量闭源模型失败率最高达 67.5%，并存在偏好天花板，即随模型容量增长，静态对齐带来的是以格式为中心的失败而非安全推理的改善。为此作者提出 CASPO 框架，把模型自身推理作为动态参考用于 token 级自蒸馏奖励，实验中 Qwen2.5-VL-7B 的风险识别失败率降至 7.3%，Qwen3-VL-4B 降至 5.7%，同时保持整体有效性。