Reference-Grafting 在提取沙袋行为隐藏能力上追平微调
论文提出 reference-grafting,通过在主动学习选出的少量电路上把激活沿对比方向的坐标设为诚实参考值,在十一个密码锁模型(1.5–32B,三个架构谱系)上恢复了诚实与沙袋差距的 +94% 到 +101%,与微调提取效果相当,且无需更新权重或训练标签,两到五对样本即可拟合方向。作者指出该锁是阈值门机制:沿方向扫动坐标时准确率在接近诚实参考处陡升,因此加性激活引导和把坐标置零常常失败。同样的恢复效果出现在 GRPO 训练的 RL 沙袋模型(+95–101%)和密码锁代码生成任务上。对比方向按诱导机制而非被隐藏内容区分:在 ARC 上拟合的方向可提取 WMDP 中被隐藏的危险知识,但提示、微调与 RL 各自携带不同方向,跨机制迁移失败。Circuit-breaking 是边界,它每次前向都重路由激活,使固定编辑失效。
推荐理由论文用激活编辑在多个密码锁模型上复现微调的隐藏能力提取效果,并给出阈值门机制与失效边界。