语言模型中规避拒答的潜空间攻击
Latent-space Attacks for Refusal Evasion in Language Models
AI 导读
研究者提出一种针对语言模型的潜空间规避攻击，通过把模型内部表征推过拒答与回答之间的决策边界来抑制拒答。论文将拒答抑制重新表述为针对线性探针的规避攻击，指出此前按差值均值方向做消融，相当于把表征投影到决策边界上，属于最低置信度的规避。为此，作者提出 Controlled Latent-space Evasion，以优化后的置信度把表征推过边界。该方法在 15 个指令微调、多模态和推理模型上取得当前最优的攻击成功率，超过现有拒答消融基线和专门的越狱攻击。