Adaptive and Explicit Safe：触发大型推理模型的潜在安全意识
Adaptive and Explicit safe: Triggering Latent Safety Awareness in Large Reasoning Models
AI 导读
研究提出 Safe Trigger，通过 SFT 诱导安全标签触发大型推理模型的潜在安全意识，再用 DPO 提升安全分析的正确性与稳定性。DeepSeek-R1-Distill-Llama-8B 在有害查询和越狱基准上的攻击成功率平均分别下降 24.65% 和 36.72%，一般性能与用户体验几乎不受影响。