对齐数据可经上下文混淆引发模型失配

论文提出并命名了后训练中的上下文混淆现象，即对齐训练会在其他语境中诱发失配行为。作者在性别平等、隐私和人身安全三个领域验证了该现象，并指出它造成的是窄域失配，与涌现式失配不同。注入通用对齐数据难以缓解该问题，而加入针对失配领域的定向对齐数据或在推理时提供上下文学习示例可显著降低失配。机制上，不同领域的查询在微调中经历相似的表示偏移，使其他领域的查询激活微调学到的同一行为特征，导致行为迁移到不适用的语境。作者据此认为仅凭训练数据难以预测模型训练后的对齐状态，需要全面的后训练对齐评测。