追踪拒答的动态：利用潜在拒答轨迹实现稳健的越狱检测
Tracing the Dynamics of Refusal: Exploiting Latent Refusal Trajectories for Robust Jailbreak Detection
AI 导读
研究者提出 SALO（Sparse Activation Localization Operator），一种轻量白盒越狱检测器，在 Qwen、Llama 和 Mistral 模型上于固定 XSTest 校准的工作点下提升了多个攻击家族的越狱检测效果。作者通过因果追踪识别出拒答轨迹，这是一种稀疏的上游激活模式，在 GCG 等攻击压制末端拒答信号后常仍存留。SALO 直接在选定层窗口的原始隐藏状态上运行。论文还分析了静态 RepE 风格基线、ROI 敏感性、自适应 GCG 攻击和编码输入边界情形，说明了拒答轨迹监控的前景与局限。