事件历史事件
研究提出扩散语言模型越狱的能量景观统一解释
先了解这件事
AI 综述
迪肯大学与宾夕法尼亚州立大学研究团队于2026年9月发表论文，将扩散语言模型的安全对齐理解为对能量景观的塑造，把现有越狱攻击归纳为初始状态混淆（如PAD、DIJA）和生成轨迹干预（如Anchoring）两条路径，并提出R₀、SED slope、ΔE slope三个无需额外训练的检测信号。实验在LLaDA-8B、LLaDA-1.5、Dream-7B等模型上进行。
AI 根据报道生成 · 12 天前更新
相关研究
报道引用的论文
- 为何扩散语言模型的越狱会成功：能量景观分析扩散大模型越狱的统一解释：两条攻击路径与三种检测信号
NeurIPS 2026 · 2026-09-25 · 深度解读
报道提到其成果的论文
- 报道提到 HarmBenchHarmBench：自动化红队测试与鲁棒拒答的标准化评测框架扩散大模型越狱的统一解释：两条攻击路径与三种检测信号
arXiv · 2024-02-06 · 深度解读
后续时间线
10月31日
- 公众号 模安局扩散大模型越狱的统一解释：两条攻击路径与三种检测信号
迪肯大学与宾夕法尼亚州立大学的研究团队于 2026 年 9 月发表论文，将扩散语言模型的安全对齐理解为对能量景观的塑造，把现有越狱攻击归纳为初始状态混淆（如 PAD、DIJA）和生成轨迹干预（如 Anchoring）两条路径，并提出 R₀、SED slope、ΔE slope 三个无需额外训练的检测信号。实验在 LLaDA-8B、LLaDA-1.5、Dream-7B 等模型上进行，LLaDA-8B 上三信号组合检测 PAD、DIJA 和第 8 步 Anchoring 的 AUROC 分别约为 0.87、0.87 和 0.96；但当误报率限制在约 10% 以内时，LLaDA-8B 对 PAD 和 DIJA 的召回率仅约 26% 和 20%，Dream-7B 约为 91% 和 70%。
- 网页AI Threat Watch (aithreat.io)· 媒体跟进扩散大模型越狱的统一解释：两条攻击路径与三种检测信号（新标签页打开原帖）
相关讨论
共1条
- 72 小时以前 · 不计入 72 小时的数字
- 网页AI Threat Watch (aithreat.io)扩散大模型越狱的统一解释：两条攻击路径与三种检测信号（新标签页打开原帖）
关注度走势
每天新增来源
- 10月31日新增2个来源（2家媒体、0个账号）
- 11月1日新增0个来源（0家媒体、0个账号）
- 11月2日新增0个来源（0家媒体、0个账号）
- 11月3日新增0个来源（0家媒体、0个账号）
- 11月4日新增0个来源（0家媒体、0个账号）
- 11月5日新增0个来源（0家媒体、0个账号）
- 11月6日新增0个来源（0家媒体、0个账号）
- 11月7日新增0个来源（0家媒体、0个账号）
- 11月8日新增0个来源（0家媒体、0个账号）
- 11月9日新增0个来源（0家媒体、0个账号）
- 11月10日新增0个来源（0家媒体、0个账号）
- 11月11日新增0个来源（0家媒体、0个账号）
- 11月12日新增0个来源（0家媒体、0个账号）
- 11月13日新增0个来源（0家媒体、0个账号）