为开源权重 AI 模型植入后门

安全研究者 Bruce Schneier 的团队演示了在开源权重模型中植入后门的过程：被改过的模型能通过评测、正常回答日常请求，只在触发条件出现时执行恶意行为。团队先在 1.5B 模型上验证，再扩展到 7B 并接入 OpenAI 的 Codex CLI，模型在触发后直接向 Codex 外泄项目凭证。后门模型只携带一个指向远程载荷的 URL，控制该 URL 的人可在部署数月后替换模型行为，无需重新训练。构建这样一个后门模型的成本很低，只需开源基座、公开数据集和租用 GPU。作者指出，任何权重被编辑过的开源模型都可能携带后门，包括任务特定微调、合并适配器以及去除拒答能力的 abliterated 版本。