什么塑造了涌现性失配？训练动态、模型先验与数据的启示

研究者从训练动态、模型先验和数据这三个微调组成部分入手，分析窄领域微调后涌现性失配（EM）的差异来源。他们比较了域内训练损失与域外对齐分数在不同数据集和模型族上的关系，并尝试用不同学习调度为一次窄领域微调寻找替代局部最优，但没有找到在相近或更低训练损失下广泛对齐分数更好的训练。失配模型分数的均值与标准差通常与预训练模型存在统计差异，但整体存在正相关的潜在信号；窄微调前预训练模型和原始 instruct 模型仅用评估提示词的激活，可以预测微调后的细粒度对齐分数。比较窄微调前后的激活变化后，训练与评估提示引起的激活位移在子空间中具有中到高重叠和相似性；使用最后一个提示 token 的激活时，两者的子空间重叠与位移相似性相关。