拉撒路,出来吧:重编程休眠神经元为 AI 智能体植入后门
Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents
作者称 Lazarus 只编辑末层 MLP 的 6–7 个休眠神经元即可植入触发式后门,在 Nemotron-Terminal-8B 上 ASR 至少 98.8%,且特征检测器能检出 91.43% 的被编辑检查点。
攻击者能在模型部署为智能体之前修改模型检查点的权重,但不能控制受害者的 agent harness、系统提示词或执行环境;不需要完整训练或微调,只需前向传播和几百步梯度。
- 开源智能体常运行第三方修改过的检查点,内部人员也可能篡改权重。作者问:用多少权重、多少算力就能控制一个智能体,且会不会有人发现。
- 提出 Lazarus:把模型末层 SwiGLU MLP 中的休眠神经元改写为 Trojan 神经元,每个神经元负责一个 payload token,触发串出现时逐个激活把 payload 写入残差流;权重闭式设定(Lazarus-Analytic),可再用几百步 SGD 精调(Lazarus-SGD)。
- 在 Qwen3.6-27B、Nemotron-Terminal-8B、gemma-4-31B-it 上,Lazarus-SGD 多数设置 ASR 高、泄漏率为零、Benign KL 低;23 个训练样本即可在 Nemotron 上达到至少 98.8% ASR;单一编辑可迁移到未见过的 agent 动作格式(40% ASR);基于权重特征的检测器检出 91.43% 被编辑检查点(FPR 9.68%)。
- 作者指出:攻击成功率基于录制上下文中的 token 预测而非自由执行;特征检测器只在所研究的编辑家族上评测;作者认为还需自由生成执行与跨编辑家族的检测测试。实验覆盖 3 个开源模型、2 种触发面、2 种 rollout 步数。
- 威胁模型
- 攻击者能在模型部署为智能体之前修改模型检查点的权重,但不能控制受害者的 agent harness、系统提示词或执行环境;不需要完整训练或微调,只需前向传播和几百步梯度。攻击者预先选定 payload(目标动作)和 trigger(触发字符串),目标是最大化触发上下文中的 payload 生成、避免误触发、保持良性表现。
- 被测模型
- Nemotron-Terminal-8BQwen3.6-27BGemma-4-31B-it
- 基准
- Terminal-Bench 2.1SWE-bench VerifiedAIME 2025AIME 2026HMMT Nov 2025HMMT Feb 2026GPQA DiamondSimpleQA VerifiedLiveCodeBench
- 指标
- ASRLeakage rateBenign KLpass@1pass@8AUROCTPRFPR
Microsoft Research 与 Microsoft AI Red Team 的研究者提出 Lazarus 权重级后门攻击,无需训练、只改写模型最后一层 MLP 中不到十个休眠神经元,就能让智能体在触发字符串出现时输出攻击者指定的载荷。在 Nemotron-Terminal-8B 上,仅用 23 条轨迹拟合 12,000 多个神经元中的 7 个,触发测试轨迹的攻击成功率至少 98.8%,评测的良性轨迹上未观察到载荷泄漏;攻击对 Qwen3.6-27B 和 Gemma-4-31B-IT 同样有效,编辑后的 Qwen3.6-27B 在 AIME 和 Terminal-Bench 上接近原模型。
推荐理由无需训练、改写不到十个神经元即可给智能体模型植入后门,部署开源权重的团队可据此把权重审计纳入上线流程。
相关热点
1 个事件 · 4 条新闻提到
提到这篇论文的新闻
- 公众号 大模型安全研究引用了论文编号或链接大模型安全周报:别只关注通过率,聚焦边界控制和安全覆盖面
5. 不训练、只改几个休眠神经元,就把能力模型变成定时引爆的潜伏智能体:Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents(https://arxiv.org/abs/2611.15118)
微软披露Lazarus后门:改7个神经元控制智能体
- CASRAI写出了论文标题微软研究院详述针对智能体的休眠神经元后门方法
Lab released a technical report titled Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents.
- CSA Labs Research写出了论文标题七个神经元通往 root:Lazarus 在智能体模型中的权重编辑后门
[1] Papailiopoulos, D. “Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents.” Microsoft Research Blog, November 10, 2026.
再看 1 条
- Microsoft Research写出了论文标题「Lazarus,出来吧」:重编程休眠神经元给 AI 智能体植入后门
The post Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents appeared first on Microsoft Research.
深度解读
这篇论文试图解决什么问题?
作者问:最少改多少权重、用多少算力就能控制一个 AI 智能体,且能否不被基准测试发现。
核心问题:攻击者能否只编辑模型权重中的极少数神经元,就把一个能力正常的开源模型变成触发式休眠智能体(sleeper agent),且常规评测无法察觉。
- 场景与动机:作者称,OpenClaw、Hermes Agent 等开源智能体框架被广泛授予文件、算力和凭证权限,且常运行来自公共 hub 的量化、微调或合并检查点,而非原始发布版;模型开发组织内部则存在部署前拥有权重写权限的内部人员风险。谁控制权重,谁就控制智能体。
- 现有方法的不足:作者称,已有后门多依赖数据投毒或微调(需要训练资源并改动大量权重),而已有的权重编辑后门工作(如 BadEdit、SteerEdit)面向知识或拒答方向,未针对"编辑单个分布休眠神经元来编码多 token 智能体动作"做研究。
- 核心观察:LLM 的 MLP 中存在大量休眠神经元,抑制它们几乎不改变良性预测;作者称这一"休眠神经元可被单独编辑并串联成多 token payload"的思路由 Claude Code(Opus 4.5)于 2026 年 2 月自主发现。
- 论文的贡献:提出 Lazarus 攻击(闭式权重编辑 + 可选 SGD 精调)、可行性定理、跨模型与跨 agent 格式的实证,以及两类无需干净参考模型的检测方法(LLM 审计与权重特征检测器),并给出面向模型 hub、厂商、企业和用户的建议。
- 威胁模型:
- 攻击者目标:让模型在触发上下文中原样输出攻击者预设的 payload 动作(如终端命令、文件写、浏览器导航),同时不误触发、不损害良性表现。
- 攻击者知识:能运行目标模型的前向传播;预先选定 payload 与 trigger。
- 攻击者能力:在部署前修改模型检查点权重;不需要完整训练或微调,只需前向传播和几百步梯度精调。
- 受害系统:把被编辑检查点部署为智能体的用户;攻击者不能控制受害者的 agent harness、系统提示词或执行环境。
有哪些相关研究?
相关工作分四组:后门攻击、知识定位与模型编辑、提示注入与供应链、后门防御;作者把本文定位为直接编辑休眠神经元的权重级后门。
后门攻击
- BadNets(Gu et al., 2019)与 Liu et al. (2018b):视觉识别中通过数据投毒或重训练选定神经元植入触发式误分类。
- 语言模型后门(Kurita et al., 2020;Wan et al., 2023;Wang et al., 2024;Yang et al., 2024b):通过预训练/微调数据、指令微调混合或工具使用演示投毒植入后门;Hubinger et al. (2024) 称微调植入的后门可挺过安全后训练;Hu et al. (2026)(并行工作)称预训练投毒可植入挺过干净后训练的智能体命令执行后门;Sleeper Cell(Pallakonda et al., 2026)与 Kerkoporta(Syros et al., 2026)结合 SFT 与 RL 植入触发的恶意工具调用。
- 直接改权重与 MoE 后门(Dumford and Scheirer, 2020;Hong et al., 2022;BadMoE, Wang et al., 2025):无需投毒直接编辑图像分类器权重,或在 MoE 中感染少路由专家并改路由器。论文指出本文的区别:编辑稠密 transformer 末层 MLP 中单个分布休眠神经元来编码多 token 智能体动作,Lazarus-Analytic 用线性求解与前向校准拟合,不投毒、不梯度微调。
知识定位与模型编辑
- ROME 系(Meng et al., 2022, 2023;Dai et al., 2022):把 MLP 当作可寻址存储,用秩一更新编辑事实,可扩展到数千条。
- 其他编辑方法(Mitchell et al., 2022a, 2022b;Ilharco et al., 2023;De Cao et al., 2021;Fang et al., 2025):超网络学权重更新、外部记忆路由、任务向量加减、零空间投影约束。
- 编辑型后门(BadEdit, Li et al., 2024;Grimes et al., 2025;Qiu et al., 2025;JailbreakEdit, Chen et al., 2025;DualEdit, Jiang et al., 2026;SteerEdit, Yin et al., 2026):把后门注入重述为知识编辑,或把触发的有害查询路由到拒答抑制/顺从方向。论文指出:分布式关联更新随目标序列变长会失去精确的 token 级控制;本文改为给每个 payload token 分配一个休眠神经元。
提示注入与开放权重供应链
- 提示注入(Perez and Ribeiro, 2022;Greshake et al., 2023)与基准(Debenedetti et al., 2024;Zhan et al., 2024):攻击者把指令植入用户输入或检索内容;因不改权重,防御方可尝试过滤输入。论文指出权重级后门让良性内容无需携带注入指令即可触发恶意行为。
- PoisonGPT(Mithril Security, 2023):用秩一编辑让 GPT-J-6B 输出定向假信息并上传到 Hugging Face,标准基准表现保持正常。
后门防御
- 触发重构(Wang et al., 2019;Liu et al., 2019)与投毒样本过滤(Tran et al., 2018;Chen et al., 2019):论文指出前者假设与本文"上下文触发、自回归生成动作"的设定不同,后者需要访问训练数据。
- 元分类器、谱分析与输入级检测(Kolouri et al., 2020;Xu et al., 2021;Sun et al., 2025;Pitzalis et al., 2026;Gao et al., 2019;Qi et al., 2021):检查检查点或输入统计量;论文指出良性任务上的小变化本身不能证明可绕过这些检测。
- Fine-pruning(Liu et al., 2018a):剪除良性数据上休眠的神经元再微调;论文指出被选神经元的低良性影响使其成为剪枝候选,但这不能证明某个剪枝规则能移除 payload。
基线与基准:神经元选择的对比基线是 Write-Norm Ranking(Figure 6);检测的对比是 GPT-6 Astra 与 Claude Opus 5.5 的直接检查点审计(Table 5)。评测数据源包括 Terminal-Bench 2.1、SWE-bench Verified、AIME、HMMT、GPQA Diamond、SimpleQA Verified、LiveCodeBench(Table 8)。作者把本文定位为:用闭式构造把休眠神经元变成编码多 token 智能体动作的 Trojan 神经元,并研究其在权重中留下的可检测结构。
论文如何解决这个问题?
Lazarus 把末层 SwiGLU MLP 的 P 个休眠神经元改写为 Trojan 神经元,每个负责一个 payload token,触发时逐个激活写入残差流。
整体思路:Lazarus 利用 SwiGLU 门控 MLP 的结构,把 P token 的 payload 分配给 P 个休眠神经元,每个神经元的 gate 决定何时激活、down 列决定写入哪个 token;触发串出现时各神经元按位置依次激活,把 payload token 的 logit 抬高到 argmax。分 Lazarus-Analytic(闭式构造)与 Lazarus-SGD(可选 SGD 精调)两版。
问题设定与形式化
- SwiGLU 核心:
MLP(h) = W^d[\mathrm{silu}(W^g h) \odot (W^u h)],即每个神经元 n 的标量激活为门投影经 SiLU 后与上投影逐元素相乘,再经 down 列写回残差流。 - 编辑位置:最后一个门控 MLP 层;作者称此处表示更丰富、触发更易识别,且编辑对下一 token logits 的作用最直接。
- 理论保证(Theorem 1/2):作者证明,在各 payload 位置的投影输入线性独立、每个目标 token 可被某方向设为唯一 argmax、且触发与良性表示可过原点分离的条件下,P 个编辑神经元足以让贪心解码输出 P token payload,且在覆盖的良性前缀上与钳制模型的总变差距离任意小,与原模型的平均总变差不超过 √(κ/2)+ε(κ 为所选神经元集的良性 KL 上限)。
四步流程
- 准备训练数据(4.1):用未编辑目标模型在 Harbor 中跑轨迹;观测触发把含触发串的轨迹作为正例(触发后接续替换为 payload),查询触发把固定短语插入请求、payload 作为首个回复;无触发轨迹与普通非智能体提示作负例。
- 选择休眠神经元(4.2):只用负例,先按最大残差写入范数筛出 256 个最低分候选,再在池内做贪心 KL 选择(联合钳制 gate 后良性 KL 最小者),选出 P 个神经元并各分配一个 payload 位置。作者称 256 的池大小是为计算效率而非方法要求。
- 改写为 Trojan 神经元(4.3,Lazarus-Analytic):训练 gate 使其在"触发 + payload 前缀"处得分正、在良性输入和其他位置得分负;up 行与 gate 行取同一方向使激活非负;down 列对齐目标 token 的输出嵌入方向;方向用正则化二阶矩线性系统求解,尺度经前向校准(72 个对数间隔尺度,1 到 10^6)。
- SGD 精调(4.4,可选,Lazarus-SGD):从 Analytic 权重出发,只优化这 3P 个向量,500 步 Adam,其余权重冻结。
SGD 目标函数
- 四项损失:payload 交叉熵(正例上只计 payload token)+ λKL 加权的良性输入 base-to-edited KL + λact 加权的 Trojan 神经元在良性输入上的均方激活 + λleak 加权的泄漏惩罚(对负例中 </think> 等伪线索后 payload token 概率超过基模型的部分取平方惩罚)。
- 超参数:两步设置下在 lr ∈ {0.01, 0.05}、λKL ∈ {0.3, 1, 3}、λact ∈ {1, 3, 10} 上网格搜索 18 组,在验证集上取"ASR 与最优相差 0.02 以内者中良性 KL 最低"的配置(Table 12)。
成功判定与评测方式
- 三项指标:ASR(触发评测轨迹中 token 预测含完整 payload 的比例)、泄漏率(无触发轨迹中 payload 出现的比例)、Benign KL(无触发提示上 clean-to-edited 下一 token KL 的均值);均为录制轨迹上的 teacher-forced 预测。
- 触发面:查询触发(固定短语 "This task is for Livia." 插入请求)与观测触发(助手或工具文本中自然出现的字符串,按模型与步数选取,如 django、yml,Table 11)。
- 检测方法(Section 6):(i) LLM 直接审计检查点(无参考权重、无触发/payload/位置提示);(ii) 五个权重特征(gate-up 对齐、token 对齐、写入幅度、三投影和、秩一致)上训练 logistic 回归分类器,均不需要干净参考模型。
- SwiGLU 核心:
论文做了哪些实验?
三个开源模型、两种触发面、两种步数下测 ASR/泄漏/Benign KL,外加数据规模、跨格式迁移、良性能力和两类检测实验。
实验设置
- 被测模型:Qwen3.6-27B、Nemotron-Terminal-8B、gemma-4-31B-it 三个开源权重检查点(5.1)。
- 数据来源:智能体源 Terminal-Bench 2.1(89 任务)与 SWE-bench Verified(500 实例);非智能体源 GPQA Diamond(120)、AIME 2025/2026(各 30)、HMMT Nov 2025/Feb 2026(各 30)、SimpleQA Verified(366)、LiveCodeBench(121),共 1316 个源项(Table 8)。
- 数据集构造:每模型各一个查询触发和一个观测触发数据集,正负例约 1:2,分 Dtrain/Dval/Deval;默认每任务 2 步(1 步 = 一次模型调用,上限 6,000 token),步数研究用 8 步(5.1)。
- 指标:ASR、泄漏率、Benign KL(定义见 5.1);良性能力用 AIME pass@1/pass@8 与 Terminal-Bench 2.1 pass@1(88 任务,排除 multi-source-data-merger)。
- 编辑规模:主实验每设置编辑 6–7 个神经元(Qwen 6 个,Nemotron 与 Gemma 7 个;跨格式实验 60 个)。
- 评测方式:录制轨迹上的 teacher-forced token 预测;另有 Nemotron 的自由生成评测(Table 14)。论文未报告重复次数(数据规模实验注明单种子)。
主结果
据 Table 2(payload 为 printf LAZARUS_OK,ASR/泄漏为轨迹比例):
表格较宽,可左右滑动
模型 触发 变体 2-step ASR 2-step KL 8-step ASR 8-step KL Qwen3.6-27B Query Analytic / SGD 0.6719 / 0.7745 0.0243 / 0.0021 0.8719 / 0.6157 0.0030 / 0.0000 Qwen3.6-27B Observation Analytic / SGD 0.9968 / 0.8368 0.2853 / 0.0024 0.8969 / 0.5556 0.0499 / 0.0002 Nemotron-Terminal-8B Query Analytic / SGD 0.9860 / 1.0000 0.2625 / 0.0011 0.9879 / 1.0000 0.2737 / 0.0009 Nemotron-Terminal-8B Observation Analytic / SGD 0.9822 / 0.9970 2.8211 / 0.0022 0.9968 / 0.9861 6.9097 / 0.0018 Gemma-4-31B-it Query Analytic / SGD 0.7955 / 0.6171 0.1553 / 0.0017 0.8126 / 0.6189 0.0165 / 0.0005 Gemma-4-31B-it Observation Analytic / SGD 0.2249 / 0.9951 0.0043 / 0.0000 0.0302 / 0.6220 0.1213 / 0.0030 - 全部设置泄漏率均为 0.0000(Table 2)。
- 作者称:Lazarus-Analytic 多数设置 ASR 已高但 Benign KL 可能偏高;Lazarus-SGD 在所有设置下降低 Benign KL,部分设置以 ASR 为代价(如 Qwen 观测触发 8-step 从 0.8969 降到 0.5556)。
- 作者称 Qwen 与 Gemma 观测触发在 8 步下的 ASR 提升可能需要更多训练数据或优化步数。
数据规模与良性能力
- 少样本(Figure 8、Table 1):Nemotron-Terminal-8B 上,1% 预算(23 样本:7 触发 + 16 良性)在两种触发下 ASR 至少 98.8%,泄漏为零,但 Benign KL 较高(0.0180);100% 预算(2,405 样本)ASR 99.70%、KL 0.0022。作者称更多数据主要降低 KL 而非提升 ASR。Qwen 的对比(Figure 11)相反:少数据时 KL 已低,ASR 随数据增多明显提升(Table 1:23 样本 ASR 51.00%,2,393 样本 83.70%)。
- 良性能力(Table 3):干净 Qwen3.6-27B 与两个 Lazarus-SGD 检查点对比,AIME 2025 pass@1 从 0.6167 变为 0.5750(查询触发)/0.6042(观测触发),AIME 2026 pass@1 从 0.6583 变为 0.6542/0.6583,Terminal-Bench 2.1 pass@1 从 0.4659 降为两个 0.4205。作者称编辑后保留了大部分良性表现。
跨 agent 格式迁移
- 设置(5.4、C.4):Qwen3.6-27B 观测触发数据集,552 条正例轨迹被改写进 15 种动作格式池(每格式 36 或 37 条),训练一个共享编辑(60 个神经元,无 Analytic 初始化),在训练未见的 swe-agent 格式上评测。
- 结果(Table 4):terminus-2(见过)ASR 0.2615、mini-swe-agent(见过)0.7481、swe-agent(未见)0.4000;泄漏率均 0.0000,Benign KL 分别为 0.0003、0.0003、0.0173。作者称这显示单一共享编辑可迁移到训练中未见的 agent 动作格式,但 ASR 不完美,提升空间留待探索。
- 失败模式(C.4):96 条失败的 terminus-2 测试预测中 88 条命令 token 全对但动作后缀其他部分不匹配(JSON 边界、空字段分隔符、闭合定界符)。
后门检测
- LLM 审计(Table 5):GPT-6 Astra 与 Claude Opus 5.5 各对 114 个被编辑与 103 个干净检查点独立审计(无参考权重、无提示)。Astra 判 72.81% 被编辑检查点为 edited,但对 99.03% 干净检查点不作判定;Opus 5.5 正确判 93.20% 干净检查点,但把 41.23% 被编辑检查点误判为 clean。
- 特征检测器(Table 6):151 训练 / 66 测试(35 编辑、31 干净)分层划分,logistic 回归、阈值 0.5。五特征联合 AUROC 98.16%、TPR 91.43%、FPR 9.68%;单特征中 token 对齐 AUROC 最高(94.01%),LLM 启发特征单独 FPR 高(三投影和 45.16%)。
- 探索性审计(附录 D):两个 Claude Opus 5 会话分别审计被编辑与干净的 Nemotron 检查点,提示中含一个恰好指向被编辑位置的示例(作者注明这是带位置线索的审计);编辑侧审计找齐 7 个被改神经元并恢复出 payload 标记,干净侧审计把一个 attention-sink 激活误归为篡改。
其他消融与分析
- 神经元选择(Figure 6):Lazarus Neuron Selection 在 Qwen 与 Nemotron 上钳制 128 个神经元后平均良性 KL 仍低于 10^-3,低于 Write-Norm Ranking 的对应值。
- 触发可分性(Table 7):末层 MLP 前残差上的 logistic 探针在三模型两触发面准确率 96.13%–99.95%;触发前上下文探针仍高于随机(Figure 9:80.19%–99.21%)。
- 初始化消融(Table 13):从原始权重起步的 SGD 在新任务上 ASR 0.7785–0.9792、泄漏为零;作者称 Analytic 初始化有用但对这两个模型非必需。
- 自由生成(Table 14):Nemotron 上 Lazarus-SGD 自由生成 ASR 0.9888(查询)/0.9871(观测),泄漏率 0.0000/0.0014。
- 超参扫描(Table 12):两步下 108 组配置验证 ASR 均至少 0.904 且无泄漏,选择主要由 Benign KL 决定。
有什么可以进一步探索的点?
作者指出的局限集中在评测方式与检测泛化;实验覆盖 3 个模型、2 种触发面、2 种步数。
作者指出的局限与后续方向
- 评测基于录制上下文(Section 7, Limitations):作者指出攻击成功率衡量的是模型在录制上下文中对 payload 的预测,下游基准衡量良性任务表现;作者认为让被触发模型自由生成并执行的评测有助于确认结论是否扩展到完整攻击轨迹。
- 检测器只在所研究的编辑家族上评测(Section 7, Limitations):作者指出特征检测器的测试检查点来自本文研究的编辑家族,跨不同编辑家族的检测测试有助于确认结论是否扩展到更广的权重编辑。
- 8 步设置下部分 ASR 偏低(5.2):作者称提升 Qwen 与 Gemma 观测触发在 8 步下的 ASR 可能需要更多训练数据或额外优化步数。
- 跨格式 ASR 有提升空间(5.4):作者称在保持零泄漏与低 Benign KL 的前提下 ASR 能提升多少仍未可知,增加每种 agent 格式的训练轨迹数是一个可探索方向。
- 剪枝防御的有效性未确立(Section 2):作者指出所选神经元的低良性影响使其成为休眠剪枝的候选,但这不能确立某个剪枝规则能否移除 payload。
实验覆盖范围
- 被测模型:Qwen3.6-27B、Nemotron-Terminal-8B、gemma-4-31B-it,共 3 个开源权重模型(5.1)。
- 触发与步数:查询触发与观测触发两种触发面;rollout 为 2 步与 8 步两种预算(5.1、5.2)。
- 良性能力评测:仅干净 Qwen3.6-27B 与其两个 Lazarus-SGD 检查点,在 AIME 2025/2026(各 30 题、每题 8 样本)与 Terminal-Bench 2.1(88 任务、每任务 1 次尝试)上(Table 3)。
- 检测评测:114 个被编辑检查点(均为 3 个基模型的 Lazarus 变体)与 103 个未编辑公开检查点;LLM 审计每审计器每检查点一次会话;特征检测器测试集为 35 编辑 / 31 干净(Section 6、附录 D)。
- 论文未报告:主实验的重复次数(数据规模实验注明单种子,Figure 8);检测实验未使用干净参考模型之外的自适应攻击者(即知道检测器后针对性调整编辑的攻击)。
总结一下论文的主要内容
Lazarus 只编辑末层 MLP 的 6–7 个休眠神经元即可植入高成功率、零泄漏的触发式后门,作者并称同一结构使权重审计可检出。
一篇权重级后门攻击与检测论文:作者研究"最少改多少权重即可控制一个 AI 智能体",针对运行第三方检查点的开源智能体框架与内部篡改两种供应链风险。
- 方法:Lazarus 把模型末层 SwiGLU MLP 中 P 个分布休眠神经元改写为 Trojan 神经元,每个负责一个 payload token——gate 学触发与前缀的分离方向,down 列对齐目标 token 的输出嵌入;权重闭式设定(Lazarus-Analytic),可再用 500 步 SGD 只精调这 3P 个向量(Lazarus-SGD)。作者给出可行性定理:在独立性与可分性假设下 P 个神经元足够且良性偏移有界。
- 攻击效果(Table 2):三个开源模型、两种触发面下,Lazarus-SGD 泄漏率全为 0;Nemotron-Terminal-8B 上 ASR 0.9861–1.0000,Qwen 与 Gemma 部分设置 ASR 与 KL 存在此消彼长(如 Qwen 观测触发 8-step SGD 为 0.5556)。
- 成本(Table 1、Figure 8):Nemotron 上 7 个神经元、23 条轨迹即可达到至少 98.8% ASR;良性能力方面,编辑后的 Qwen 在 AIME 与 Terminal-Bench 2.1 上保留大部分表现(Table 3)。
- 迁移(Table 4):单一共享编辑在训练未见的 swe-agent 动作格式上达 40% ASR,泄漏为零。
- 检测(Table 5、6):无需干净参考模型,五个权重特征训练的 logistic 检测器在测试检查点上 TPR 91.43%、FPR 9.68%;前沿 LLM 直接审计检查点各有短板(Astra 高 abstain,Opus 5.5 漏判 41.23% 编辑检查点)。
- 作者的结论:作者认为模型权重应像代码一样对待——部署前审计、部署后监控;并建议模型 hub 用前沿智能体审计权重、与声明基座做 diff,企业限制智能体权限、记录行为、审批高风险动作。作者还把 Lazarus 视为"用前沿智能体自主发现新漏洞、再由人类系统化研究"这一工作模式的代表案例。