通过零空间约束将激活引导编译进权重，向大语言模型植入隐蔽后门
Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors
AI 导读
研究者提出一种针对安全对齐 LLM 的权重后门注入方法，将激活引导向量编译为权重中的持久修改，只在隐藏触发词出现时绕过拒答。该方法用零空间约束使权重修改在干净输入上保持休眠，以维持模型的常规安全行为和通用能力；作者称只需少量示例即可闭式求解。在多个安全对齐 LLM 和越狱基准上，作者报告触发时攻击成功率较高，未触发时保持安全性与通用效用。