对比推理对齐：从隐藏表示出发的强化学习
[Daily Paper] Contrastive Reasoning Alignment: Reinforcement Learning from Hidden Representations
AI summary
来自多所中国机构的研究团队在论文中提出 CRAFT（Contrastive Reasoning Alignment Framework for red-Teaming），把安全对齐信号从输出 token 空间移到隐藏表示空间。方法分两步：先用成对的安全与不安全推理轨迹，在隐藏状态空间中构造刻画推理走向有害结论的潜在安全基；再基于 GRPO 的强化学习目标加入对比惩罚，让几何上靠近不安全推理轨迹的隐藏状态受罚。作者在 Qwen3-4B-Thinking 和 R1-Distill-Llama-8B 上针对标准越狱基准测试，称 CRAFT 相比 IPO、SafeKey 等基线大幅降低攻击成功率，同时保持标准推理任务上的基准表现。文章还讨论了该思路对具身 AI 的启发，以及潜在安全基对未见攻击策略的泛化边界和隐藏状态监控的计算成本等开放问题。