10月8日 · 周四

阿里巴巴 · Qwen · 论文

找到 2 篇

筛选2

攻击类型

模型自身风险

奖励作弊3 失准与价值偏离2 Agent 危险操作1 危险能力0 拒答失当2

防御类型

影响

系统形态

攻击面/入口

训练数据1 权重与梯度1

层

模型层1 训练与数据层1

系统组件

微调与开源权重1 视觉1 多模态1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 32 篇还没打标签，不在筛选结果里。

模型自身风险：危险能力模型自身风险：拒答失当话题：阿里巴巴 · Qwen 清除全部

另有 32 篇论文还没打上分类标签，暂不在筛选结果里。

防御arXiv:2610.05637 · 10月5日
研究显示 VLM 视觉定位输出的拒答率按危害领域平均低 31 至 59 个百分点
提出融合定位拒答与能力保留的安全微调，补齐视觉定位输出的拒答缺口
模型与 API测试Claude Sonnet 4.6、Gemini 3.5 Flash、Molmo2-8B 等 5 个训练与数据层
摘要论文揭示了 VLM 定位安全落后于 VQA 的对齐断层，提出三成分微调方案有效弥合差距并保留定位能力，表征分析揭示了对齐机制。
完整解读
可解释性arXiv:2609.06934 · 9月7日
论文提出拒答的几何解释：事后安全训练脆弱，预训练期持续安全共训更抗攻击
用权重几何解释事后安全脆弱，并提出预训练持续安全共训练
模型与 API测试Qwen-2.5-7B、Qwen-2.5-7B-Instruct、Llama-3-8B 等 15 个模型层
摘要论文将后验安全脆弱性归因于正交抑制，并提出通过预训练持续共训练实现具备微调抗性的安全防护。
完整解读

已经到底了