微软研究人员演示针对 AI 智能体的隐藏后门技术

微软研究人员演示了一种名为 Lazarus 的隐藏后门技术，改动少于 10 个休眠神经元即可让 AI 智能体在特定触发条件出现时执行攻击者命令，且无需重新训练模型。例如日期变化可在例行任务中激活后门，促使智能体用已有权限下载并运行攻击者控制的代码；攻击前提是能修改模型权重，被入侵的账号、开发流水线或存储系统都可能提供该权限，内部开发和第三方模型都受影响。被改模型在触发前表现正常，标准安全评测难以发现，微软称尚未观察到威胁行为者将该技术武器化。微软建议部署前及每次更新后将 checkpoint 与声明的基座模型比对，可靠检测需与原始未修改权重做对比，并配合最小权限、沙箱执行、限制出站流量和对高影响工具调用要求人工审批。