用单条安全示例缓解多示例越狱攻击

多示例越狱（Many-shot Jailbreaking，MSJ）通过在有害查询前附加大量有害问答示例，使安全对齐的语言模型回答有害问题。论文实证发现，随着有害示例增多，固定有害查询的表示会逐步偏离安全对齐区域，出现渐进式激活漂移；理论上，这种漂移可解释为隐式恶意微调，即以 N 条有害示例为条件等价于在对应 N 条有害样本上做 SGD 式更新。据此作者提出在推理时附加一条固定的安全示例，诱导抵消性的安全方向更新并恢复拒答行为，在不修改模型参数、部署时无需白盒访问的情况下提升模型对 MSJ 的鲁棒性。代码已开源在 https://github.com/Thecommonirin/SafeEnd。