Colluding LoRA：一种针对 LLM 安全对齐的组合攻击
[Daily Paper] Colluding LoRA: A Composite Attack on LLM Safety Alignment
AI 导读
一篇论文提出 Colluding LoRA（CoLoRA）攻击，单独加载时看似无害的 LoRA 适配器经线性组合后可广泛压制模型的拒答行为，无需对抗提示或特殊触发词。论文称该攻击发生在模型权重层面，属于针对模型组合的供应链攻击。现有防御在部署前逐个验证适配器，但有害行为只在适配器合并时出现，而穷举所有适配器组合在计算上不可行。论文来自 Mercedes-Benz Research & Development North America，作者称同样的组合逻辑也适用于插件生态、多 Agent 系统和 RAG 管线。