PreSafe：将安全决策前置到思维链生成之前，提升大型推理模型安全性
[Daily Paper] Towards Safer Large Reasoning Models by Promoting Safety Decision-Making before Chain-of-Thought Generation
AI 导读
PreSafe 把安全决策前置到思维链生成之前，让大型推理模型在推理 token 生成前先决定是否拒答。在 DeepSeek-R1 的 Qwen-7B、Llama-8B、Qwen-14B 变体上，关闭 CoT 时拒答表现良好，开启 CoT 后安全能力崩溃。该方法用 BERT 分类器提取安全决策信号并经辅助头回传到模型隐状态，在 Wildjailbreak 上大幅降低攻击成功率，在 AIME24 上保持与 vanilla 基线相近的推理表现。