跳到正文
10月8日 · 周四

阿里巴巴 · Qwen · 论文

找到 2 篇
筛选1
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。
  1. 防御arXiv:2610.05637 ·

    研究显示 VLM 视觉定位输出的拒答率按危害领域平均低 31 至 59 个百分点

    提出融合定位拒答与能力保留的安全微调,补齐视觉定位输出的拒答缺口

    测试
    Claude Sonnet 4.6、Gemini 3.5 Flash、Molmo2-8B 等 5 个训练与数据层
    摘要论文揭示了VLM定位安全落后于VQA的对齐断层,提出三成分微调方案有效弥合差距并保留定位能力,表征分析揭示了对齐机制。
    • 定位与核心问题:论文系统研究了多模态大模型在视觉定位(点和边界框坐标)这一可执行输出通道上的安全对齐问题,指出模型在面对相同有害意图时,拒绝自由文本提问却遵从空间定位请求的普遍对齐失效现象。
    • 方法与数据构建:作者将直接危害(VLSU)、社会偏见(BBQ-V)和情境安全(Asimov-2.0)三个基准重构成15,401对图文意图严格匹配的VQA与定位测试样本,并提出了融合定位拒答、通用定位能力以及自蒸馏良性数据的三成分微调训练方案,支持纯文本(SFT-plain)和占位符坐标(SFT-placeholder)两种拒答格式。
    • 基座模型安全差距:五款主流VLM在无系统提示下,定位模式的平均拒答率在VLSU、BBQ-V和Asimov-2.0上分别仅为19.4%、16.7%和12.7%,落后于VQA模式的62.9%、75.9%和43.8%(Table 6),且引入安全系统提示词无法有效消除该差距。
    • 安全微调成效:微调使Qwen3-VL-8B和VisionReasoner-7B在VLSU上的定位拒答率分别由9.7%和3.9%提升至96.5%和97.4%(SFT-plain,Table 3),在完全未见的情境安全域Asimov-2.0上分别提升至68.9%和85.4%,且通用定位成功率保持在基座水平(65.4%与64.1%)。
    • 对齐机制与启示:消融实验显示仅依赖VQA文本拒答数据无法迁移至定位安全,而定位拒答数据能提升双模式拒答;内部表征分析表明微调将有害定位请求的残差流表征大幅推向拒答方向。作者认为,随着定位输出被智能体与物理系统广泛采纳,安全对齐必须明确覆盖空间输出通道。
    完整解读
  2. 可解释性arXiv:2609.06934 ·

    论文提出拒答的几何解释:事后安全训练脆弱,预训练期持续安全共训更抗攻击

    用权重几何解释事后安全脆弱,并提出预训练持续安全共训练

    测试
    Qwen-2.5-7B、Qwen-2.5-7B-Instruct、Llama-3-8B 等 15 个模型层
    摘要论文将后验安全脆弱性归因于正交抑制,并提出通过预训练持续共训练实现具备微调抗性的安全防护。
    • 研究定位:该研究从损失曲面与特征空间几何视角探究大语言模型后验安全对齐脆弱性的根因,并在预训练阶段构建抗微调攻击的安全防护机制。
    • 核心问题与理论分析:针对 RLHF 和 DPO 易被少量良性微调破坏的现象,作者建立了经验 Fisher 特征子空间测量工具并提出核不动引理,指出成熟底模上的后验安全更新与能力空间近乎正交,仅在极少数高曲率方向上形成掩盖门控而非消除有害能力。
    • 表征底座发展规律:在 OLMo-2-1B 预训练序列上的追踪显示,拒绝机制所依赖的表征底座在 1B 至 63B token 之间快速成型;在此之前施加安全微调会产生未成熟底模模式,无法形成稳定门控。
    • 持续共训练主实验结果:基于几何发现,作者提出从头预训练持续共训练方案。实验显示,在 100 条 Alpaca 良性微调攻击下,后验微调的 Qwen-2.5-7B 和 Llama-3-8B 的 AdvBench 拒答率分别下降 34.8 和 38.3 个百分点;而 410M 至 6.9B 的持续共训练模型在攻击后拒答率仍保持在 84.0% 至 90.6%(Table 1、Table 3)。
    • 时序消融与代价特征:在 Pythia-1B 上的时序对比表明,仅在前 30% 阶段注入安全损失的窗口方案在训练结束后拒答率归零,指出只有持续至预训练结束方可保证鲁棒性;该方案在短答案推理和知识检索上带来约 0.12 至 0.22 nats 的负对数似然代价,但在指令遵循上无负面影响(Table 2、Table 20)。
    • 作者结论与启示:作者认为后验安全微调的脆弱性可在未遭受攻击前直接从权重几何特征进行检测诊断;若要获得真正抵御微调擦除的安全能力,需要将安全信号贯穿基础模型的预训练全过程。
    完整解读
已经到底了