SafeProbing：在解码中探测隐藏安全信号，防御 LLM 越狱
[Daily Paper] In-Decoding Safety-Awareness Probing: Surfacing Hidden Safety Signals to Defend LLMs Against Jailbreaks
AI 导读
SafeProbing 在解码阶段探测隐藏的安全信号，拦截越狱下的有害生成。在 Qwen 模型上对 AutoDAN、PAIR 等 7 种攻击方法取得 95.1% 平均防御成功率，比次优基线 80.1% 高 15 个百分点，并随机抽取 20% 解码步探测。XSTest 过度拒答仅 18 次，数学解题性能零退化。