扩散大模型越狱的统一解释:两条攻击路径与三种检测信号
AI 导读
迪肯大学与宾夕法尼亚州立大学的研究团队于 2026 年 9 月发表论文,将扩散语言模型的安全对齐理解为对能量景观的塑造,把现有越狱攻击归纳为初始状态混淆(如 PAD、DIJA)和生成轨迹干预(如 Anchoring)两条路径,并提出 R₀、SED slope、ΔE slope 三个无需额外训练的检测信号。实验在 LLaDA-8B、LLaDA-1.5、Dream-7B 等模型上进行,LLaDA-8B 上三信号组合检测 PAD、DIJA 和第 8 步 Anchoring 的 AUROC 分别约为 0.87、0.87 和 0.96;但当误报率限制在约 10% 以内时,LLaDA-8B 对 PAD 和 DIJA 的召回率仅约 26% 和 20%,Dream-7B 约为 91% 和 70%。
相关论文