刻画涌现失对齐人格的一致性

Anietta Weckauff 等三位研究者在 arXiv 发表论文，研究涌现失对齐（emergent misalignment）现象中有害行为与模型自我评估的对应关系在不同任务和微调领域间是否一致。他们在六个狭窄失对齐领域（如不安全代码、高风险理财建议、不良医疗建议）上微调 Qwen 2.5 32B Instruct，并开展危害性评估、自我评估、在两种 AI 系统描述间选择、输出识别和分数预测等实验。结果区分出两类模式：连贯人格（coherent-persona）模型中有害行为与自报失对齐相耦合，反转人格（inverted-persona）模型则在输出有害内容的同时自认是对齐的 AI 系统。作者称这些发现揭示了涌现失对齐影响的更细粒度图景，并对涌现失对齐人格的一致性提出质疑。