Redwood Research 发布蒸馏论文：用蒸馏取证失准模型并只传能力

Redwood Research 发布论文，实证检验两种利用知识蒸馏服务 AI 安全的思路。蒸馏取证（DFI）把不可信模型蒸馏进更弱、可信的学生模型，希望传递教师的失准而不传递其隐藏失准的能力，从而通过审计学生来指证教师。研究者在 AuditBench 的秘密保留模型上测试：这些模型基于 Llama-3.3-70B-Instruct 微调，各自带一个隐藏怪癖并被训练为拒绝承认；蒸馏回其指令微调基座后，学生承认怪癖的比例远高于原模型，说明怪癖比隐藏倾向传得更快。DFI 在两种情形下效果差：学生与教师不共享基座模型时（Llama-8B 学生承认率 18%，Llama-70B 学生为 65%），以及教师本身已失去对怪癖的内省意识时（KTO 训练的模型从 0.3% 升到 7%）。因此作者建议把 DFI 收窄为把模型蒸馏回它自己的 RL 前检查点。