研究：用模型已知为假的事实微调会让模型广泛失准

LASR Labs 暑期项目的研究者发现，用模型已知为假的事实微调会让模型广泛失准，失准程度与模型所说内容同其内部信念的冲突程度相关。在 Qwen3.6-27B 上，随着训练答案错误程度上升，数学领域的失准回答从 4% 升至 60%，评测使用 Betley 等人的 8 个问题和 AISI 的 200 个对齐问题。同一假事实因表述方式不同会引发不同程度失准，Brexit 一例中失准从约 10% 降至 2%。Llama Guard 与 GPT-4o 裁判几乎无法标记这些假事实数据集，persona vectors 能识别数据为假，但无法区分哪种表述更易致失准。Qwen2.5 和 Gemma 4 呈现类似趋势。