ReFuse：用解码前状态检测dLLM越狱
先了解这件事
2026年11月7日发表的论文提出ReFuse（Representation Fusion），一种面向扩散大语言模型（dLLM）的推理时越狱检测方法。论文指出，dLLM通过并行迭代精炼掩码token生成回复，近期攻击正利用其双向条件化与并行掩码token精炼等特性；而同一特性也带来新的检测面：越狱在生成任何token之前，即可从掩码回复位置的隐藏状态中被识别。方法在提示词表示和解码前回复表示上分别训练线性分类器，两者各有对方漏检的攻击，ReFuse融合两个分类器的sigmoid有害性评分，不修改模型权重和解码过程。在LLaDA-8B上，多种越狱的平均攻击成功率从无防御时的63.29%、仅用提示词分类器时的11.27%降至3.31%，标准效用基准上的平均良性拒答保持在1%以下。
AI 根据报道生成 · 2 天前更新
走势与进展
每小时关注度
现在 26，24 小时 -2%·峰值 28（11月10日 22:00）
相关研究
这件事的论文
- 不止于提示词：利用解码前状态检测扩散大语言模型中的越狱攻击
NeurIPS 2026 · 2026-11-06
后续时间线
- arXiv：越狱、提示注入、投毒与防御不止于提示词：利用解码前状态检测扩散大语言模型中的越狱攻击
研究者提出 ReFuse（Representation Fusion），一种面向扩散大语言模型（dLLM）的推理时越狱检测方法。论文指出，dLLM 通过并行迭代精炼掩码 token 生成回复，近期攻击正利用其双向条件化与并行掩码 token 精炼等特性，而同一特性也带来新的检测面：越狱在生成任何 token 之前，即可从掩码回复位置的隐藏状态中被识别。方法在提示词表示和解码前回复表示上分别训练线性分类器，两者各有对方漏检的攻击，ReFuse 融合两个分类器的 sigmoid 有害性评分，不修改模型权重和解码过程。在 LLaDA-8B 上，多种越狱的平均攻击成功率从无防御时的 63.29%、仅用提示词分类器时的 11.27% 降至 3.31%，标准效用基准上的平均良性拒答保持在 1% 以下。
相关讨论
关注度走势
每天新增来源
- 11月10日新增1个来源（1家媒体、0个账号）
- 11月11日新增0个来源（0家媒体、0个账号）
- 11月12日新增0个来源（0家媒体、0个账号）
- 11月13日新增0个来源（0家媒体、0个账号）