智源提出基于反事实词元重掩码的扩散语言模型对齐方法CURE
智源提出基于反事实词元重掩码的扩散语言模型对齐方法CURE - 智源社区
AI 导读
智源研究院提出扩散语言模型对齐方法CURE,利用去噪中间状态的可编辑性,训练轻量安全价值模块从部分去噪状态预测最终风险,经反事实归因定位致险词元并选择性重掩码,再由原模型继续生成,全程不修改基础模型参数,该工作入选 NeurIPS 2026 Oral。在 LLaDA-8B-Instruct、Dream-v0-Instruct-7B、LLaDA-1.5 三个模型与 WildJailbreak、JBB-Behaviors、HarmBench、PAD-AdvBench、DIJA-AdvBench 五个攻击基准上,平均攻击成功率从 47.20% 降至 1.36%,对依赖早期锚点引导的 PAD、DIJA 攻击尤其有效。