Colluding LoRA：大语言模型安全对齐中的组合式漏洞
Colluding LoRA: A Compositional Vulnerability in LLM Safety Alignment
AI 导读
论文提出 Colluding LoRA（CoLoRA），一种模块化大语言模型的组合式漏洞：单独评估时表现无害且功能正常的 LoRA 适配器，经标准线性合并后会抑制拒答，使模型在普通提示下配合有害请求。作者在 Llama3-8B-Instruct、Qwen2.5-7B-Instruct 和 Gemma2-2B-It 上验证，单个适配器的 AdvBench 攻击成功率接近 0，合并后 Qwen2.5-7B 达 100%（LlamaGuard3）与 91.1%（HarmBenchCLS），Llama3-8B 达 98.2%，而良性提示的误拒率维持在 0.4%–3.0%。作者称逐个扫描适配器只需线性时间，验证所有组合却是组合爆炸，仓库规模下不可行，因此需要组合感知的防御；SafeLoRA 的权重空间投影无法清晰区分共谋适配器，PEFTGuard 也将单个共谋适配器判为良性。
推荐理由
论文给出在多个开源权重模型上复现的组合攻击构造，说明逐个扫描适配器无法覆盖组合后的安全风险。