防御arXiv:2610.05637 · 10月5日
研究显示 VLM 视觉定位输出的拒答率按危害领域平均低 31 至 59 个百分点
提出融合定位拒答与能力保留的安全微调，补齐视觉定位输出的拒答缺口
模型与 API测试Claude Sonnet 4.6、Gemini 3.5 Flash、Molmo2-8B 等 5 个训练与数据层
摘要论文揭示了 VLM 定位安全落后于 VQA 的对齐断层，提出三成分微调方案有效弥合差距并保留定位能力，表征分析揭示了对齐机制。
完整解读
评测与基准arXiv:2610.03938 · 10月3日
论文发现多模态模型启用工具后拒答失败率最高上升 68.7%
评测启用工具调用后多模态模型拒答有害图文请求的变化
AI Agent测试Gemini-2.5-Pro、Gemini-3.1-Pro-Preview、Claude Opus 4.6 等 13 个应用层
- 拒答失当
- 视觉
摘要论文揭示了工具调用范式削弱 MLLM 拒答能力的现象，分析了稀释与偏移机制并验证了重注缓解方案。
论文系统评估了智能体工具调用范式对多模态大语言模型拒答能力的影响，指出了工具增强视觉推理背后的安全隐患。核心探讨的问题在于：当 MLLM 从单次推理转向通过 ReAct 循环调用外部工具（打标、缩放、OCR、代码执行）时，工具使用机制本身是否会降低模型拒答有害请求的概率。
完整解读
风险行为arXiv:2609.27900 · 8月26日
论文揭示多智能体委派结构放大 LLM 安全风险
测量多智能体委托结构下有害任务拒答的失效
多智能体测试Claude-Sonnet-4.6、GPT-5、Gemini-3.1-Pro 等 6 个应用层
- 拒答失当
摘要论文揭示多智能体层级委托会导致单模型安全对齐失效，多项前沿模型有害执行大幅增加且单层防御难以奏效。
完整解读

已经到底了

Agent 安全 · 论文

模型自身风险

防御类型

影响

系统形态

层

系统组件

被测模型厂商

研究显示 VLM 视觉定位输出的拒答率按危害领域平均低 31 至 59 个百分点

论文发现多模态模型启用工具后拒答失败率最高上升 68.7%

论文揭示多智能体委派结构放大 LLM 安全风险