Goodfire 提出模型差分放大方法，用于发现微调后罕见不良行为
Goodfire Research 提出模型差分放大（model diff amplification，后称 logit diff amplification）方法，通过 logits_amplified = logits_after + α(logits_after – logits_before) 采样下一个 token，放大微调前后模型的差异，从而用更少 rollout 暴露罕见不良行为。在涌现性错位案例中，用不同比例不良医疗建议数据微调 Llama 3.2 1B Instruct，当坏数据仅占 5% 时标准采样 1/10000 有害，放大后升至 1/30，整体使错位回答出现频率提高 10 到 300 倍。