Anthropic 提出 Model Spec Midtraining,将智能体失准率从 68% 降至 5%
Model Spec Midtraining
AI 导读
Anthropic 提出 Model Spec Midtraining(MSM):在预训练之后、对齐微调(AFT)之前,用讨论 Model Spec 内容的合成文档训练模型,从而塑造模型从后续对齐训练中泛化的方向。在奶酪偏好的玩具实验中,两个 Llama 3.1-8B 基座模型分别接受亲平价与亲美国价值观的 MSM,再用完全相同的偏好数据做 SFT,结果各自泛化出与自身 spec 一致的价值观。在智能体失准(AM)评测中,MSM 加 AFT 把失准率从 Qwen2.5-32B 的 68% 降到 5%、Qwen3-32B 的 54% 降到 7%,明显优于 deliberative alignment 基线(48% 和 14%);MSM 与 AFT 单独使用都达不到这一效果。
推荐理由
Anthropic 提出在预训练与对齐微调之间插入 Model Spec 中训练,用同一份微调数据控制模型泛化出不同价值观,并大幅降低智能体失准率。