微软研究人员提出在开放权重模型休眠神经元藏载荷
'Sleeper Agent' Tactic Hides Payloads in Open-Weight AI Models
AI 导读
研究者披露一种名为 Lazarus 的手法,可在开放权重模型不到 10 个休眠神经元中植入小型载荷,微软称这会把模型变成可被触发唤醒的「潜伏特工」。该方法瞄准模型处理流程后段、对输出影响更直接的休眠神经元,让载荷按顺序触发,平时保持静默,触发条件可以是特定用户输入、工具输出,甚至终端里读到的一个日期。更早的 MaleficNet(2022)把恶意二进制拆成碎片,分散编码进大量权重。研究者建议用可信基线比对模型权重,并把智能体的权限、凭据与网络访问限制到最小,在系统边界监控异常行为。