安全引导还是坠崖？重新审视推理时干预的特异性与鲁棒性

Navita Goyal 与 Hal Daumé 提出评估模型引导（steering）特异性的三维框架，并在过度拒答与忠实性幻觉两个安全场景中系统评测了五种引导方法。框架将特异性分为一般、控制和鲁棒三个维度，分别衡量引导是否保持流畅度与无关能力、是否保持相关控制属性、以及在分布偏移下是否仍保持这些属性。结果显示，引导能有效降低过度拒答并基本保持一般与控制特异性，但在 Llama-3.1-8B-Instruct、Llama-3.2-3B-Instruct、Qwen-2.5-7B-Instruct 和 Gemma-2-2B-it 上，越狱鲁棒性一致下降，其中 Llama-8B-Instruct 下降 35% 至 55%。作者称这是首个对引导特异性的系统评测，认为仅凭有效性和标准特异性检查不足以判断引导是否安全。

Deep readingGenerating