DeShortcut-Align:解耦伪捷径以提升大推理模型安全对齐鲁棒性
DeShortcut-Align: Decoupling Spurious Shortcuts for Robust Safety Alignment in Large Reasoning Models
论文中段被截断,需先补读实验、消融与局限后再写解读。
- 占位
- 占位
- 占位
- 占位
研究者提出 DeShortcut-Align 对齐框架,用于缓解大推理模型安全训练中出现的伪捷径问题。作者发现安全对齐后的模型常把拒答绑定到提示词模板(格式捷径)或敏感关键词(词汇捷径),导致过度拒答与通用能力下降。该方法通过拒答敏感性归因、归因引导的对比增强和反事实一致性正则三个阶段解耦这些捷径,在 7B 和 14B 模型上使模板剥离绕过攻击的性能下降最多减少 72%,过度拒答降低超过 58%。
深度解读
这篇论文试图解决什么问题?
占位
占位
有哪些相关研究?
占位
占位
论文如何解决这个问题?
占位
占位
论文做了哪些实验?
占位
占位
有什么可以进一步探索的点?
占位
占位
总结一下论文的主要内容
占位
占位