跳到正文
原文
CSA Labs Research·本站收录· 原文发表精选关注度70

七个神经元通往 root:Lazarus 在智能体模型中的权重编辑后门

Seven Neurons to Root: Lazarus Weight-Edit Backdoors in Agent Models

AI 导读

微软研究院 2026 年 11 月 10 日披露 Lazarus 技术:改写智能体模型中不到十个很少激活的神经元,无需训练即可植入休眠后门,触发前行为正常并能通过标准评测,触发后输出攻击者指定命令并由智能体以其已有权限执行。据 CSA 转引的论文数据,在 Nemotron-Terminal-8B 最终前馈层 12000 多个神经元中改写 7 个,触发会话至少 98.8% 输出目标命令、该配置下未触发会话无一输出;Qwen3.6-27B 与 Gemma-4-31B-IT 上成功率介于 51% 至 99.5%。CSA 评估称攻击只需推理级算力和权重写权限,危害上限取决于智能体自身权限;微软指出与声明的基座模型做权重 diff 是目前最强检测信号,但行为评测无法证明模型干净,沙箱等边界控制只能限制而非消除影响。微软称尚未观察到威胁行为者使用该技术。

推荐理由

CSA 梳理了 Lazarus 神经元编辑后门的攻击成本、检测边界与真实影响条件,并给出从权重校验到智能体权限收敛的分层防护清单。

相关论文
阅读原文labs.cloudsecurityalliance.org