跳到正文
原文
arXiv:危险能力与安全评测· arXiv:2609.34896· Qirui Liu·本站收录· 原文发表

DeShortcut-Align:解耦伪捷径以提升大推理模型安全对齐鲁棒性

DeShortcut-Align: Decoupling Spurious Shortcuts for Robust Safety Alignment in Large Reasoning Models

论文速读

防御

据论文 PDF 整理(AI 生成),以原文为准

论文中段被截断,需先补读实验、消融与局限后再写解读。

问题
占位
方法
占位
实验与结果
占位
局限与可以继续做的
占位
AI 导读研究者提出 DeShortcut-Align 对齐框架,用于缓解大推理模型安全训练中出现的伪捷径问题。作者发现安全对齐后的模型常把拒答绑定到提示词模板(格式捷径)或敏感关键词(词汇捷径),导致过度拒答与通用能力下降。该方法通过拒答敏感性归因、归因引导的对比增强和反事实一致性正则三个阶段解耦这些捷径,在 7B 和 14B 模型上使模板剥离绕过攻击的性能下降最多减少 72%,过度拒答降低超过 58%。

研究者提出 DeShortcut-Align 对齐框架,用于缓解大推理模型安全训练中出现的伪捷径问题。作者发现安全对齐后的模型常把拒答绑定到提示词模板(格式捷径)或敏感关键词(词汇捷径),导致过度拒答与通用能力下降。该方法通过拒答敏感性归因、归因引导的对比增强和反事实一致性正则三个阶段解耦这些捷径,在 7B 和 14B 模型上使模板剥离绕过攻击的性能下降最多减少 72%,过度拒答降低超过 58%。

深度解读

6个问题,点开问题读完整回答

  1. 这篇论文试图解决什么问题?

    占位

    占位

  2. 有哪些相关研究?

    占位

    占位

  3. 论文如何解决这个问题?

    占位

    占位

  4. 论文做了哪些实验?

    占位

    占位

  5. 有什么可以进一步探索的点?

    占位

    占位

  6. 总结一下论文的主要内容

    占位

    占位

阅读原文arxiv.org