教 AI 处理例外情形：与人类判断对齐的监督微调
Teaching AI to Handle Exceptions: Supervised Fine-Tuning with Human-Aligned Judgment
AI 导读
论文发现，大语言模型在处理例外情形时，即便推理能力较强，也会因严格遵守规则而明显偏离人类判断。作者比较了三种调优方法：伦理框架提示无效，思维链推理仅带来小幅改善，而带人类解释的监督微调效果明显更好，甚至能让模型把类人的决策方式泛化到新场景。作者指出，仅用标签微调不足以实现对齐，需要训练模型理解决策是如何做出的，而不只是做出哪个决策。