一次修复：用单条样本为微调后的大语言模型打上安全补丁
Safety at One Shot: Patching Fine-Tuned LLMs with A Single Instance
AI 导读
研究者提出一种安全修复方法，显示只需单条安全样本即可完全恢复被微调破坏的安全对齐，且不牺牲模型效用、成本极低。作者称该恢复不受微调时所用有害样本数量和底层模型规模的影响，并在几个 epoch 内收敛。论文还发现安全梯度的低秩结构，解释了这种高效修复为何可行。方法在五个安全对齐的大语言模型和多个数据集上验证了通用性。