TERM：无目标熵引导残差调制越狱防御
先了解这件事
2026年11月10日，研究者在arXiv发布论文，提出针对越狱攻击的推理时防御方法TERM（Target-free Entropy-guided Residual Modulation）。该方法以每个提示词自身的 prefill 基线校准注意力熵偏差，据此自适应调制模型残差更新，无需预设安全方向，并通过自适应尺度归一化与时间累积决定干预强度，以减少对良性请求的不必要干预。作者在 Llama、Qwen、Gemma 模型（含 0.6B 至 32B 的 Qwen3）上，将其与七种防御在七个越狱攻击和两个过度拒答基准上对比，结果显示 TERM 在提升越狱鲁棒性的同时，对良性安全敏感请求保持较低过度拒答，推理开销适中。
AI 根据报道生成 · 2 天前更新
相关研究
这件事的论文
- 研究者提出无需预设安全方向的 TERM 推理时越狱防御方法
arXiv · 2026-11-10 · 深度解读
- TERM：基于熵引导残差调制的无目标越狱防御
arXiv · 2026-11-10 · 深度解读
后续时间线
- arXiv：对抗攻击、后门与投毒研究者提出无需预设安全方向的 TERM 推理时越狱防御方法
研究者提出 TERM（Target-free Entropy-guided Residual Modulation），一种针对越狱攻击的推理时防御方法。该方法以每个提示词自身的 prefill 基线校准注意力熵偏差，据此自适应调节模型自身的残差更新，不依赖预设安全方向，并通过自适应尺度归一化与时间累积决定干预强度，以减少对良性请求的不必要干预。作者在 Llama、Qwen、Gemma 模型（含 0.6B 至 32B 的 Qwen3）上，将其与七种防御在七个越狱攻击和两个过度拒答基准上对比，结果显示该方法在提升越狱鲁棒性的同时，对良性安全敏感请求保持较低过度拒答，推理开销适中。
- arXiv：对抗攻击、后门与投毒TERM：基于熵引导残差调制的无目标越狱防御
TERM 是一种推理时越狱防御方法，以每个提示词自身的 prefill 基线校准注意力熵偏差，据此自适应调制模型残差更新，无需预设安全方向。在 Llama、Qwen、Gemma 模型（含 0.6B 至 32B 的 Qwen3）上，TERM 与 7 种防御在 7 种越狱攻击和 2 个过度拒答基准上对比，提升了越狱鲁棒性并保持较低过度拒答，推理开销适中。
相关讨论
关注度走势
每天新增来源
- 11月11日新增1个来源（1家媒体、0个账号）
- 11月12日新增0个来源（0家媒体、0个账号）
- 11月13日新增0个来源（0家媒体、0个账号）