剪除“不安全票据”：让 LLM 更安全、更稳健的资源高效框架
Pruning Unsafe Tickets: A Resource-Efficient Framework for Safer and More Robust LLMs
AI 导读
研究者提出一种资源高效的 LLM 剪枝框架，移除引发不安全行为的参数，显著减少不安全生成、增强对越狱攻击的鲁棒性，效用损失极小。针对 Mistral、LLaVA 等对齐后仍不安全的模型，该方法以免梯度归因定位不安全子网络，仅需少量 GPU 资源，可跨架构与量化变体泛化。作者基于彩票假设推断模型含有“不安全票据”，剪枝可显露“安全票据”，适合资源受限场景部署。