研究：推理 token 能纠正部分偏见，却制造约 5 倍新偏见
Does Thinking Help Fairness? Reasoning Tokens Resolve Some Biases but Create More
AI 导读
一项发表于 EMNLP 2026 的研究在 QwQ-32B、DeepSeek-R1-Distill-Qwen-32B 和 Qwen3-32B 上做同一模型的开思考与关思考对照，在 Adult、COMPAS、Credit 三个高风险决策任务上发现思考对反事实公平性有不对称的双重效应：既纠正了非思考基线产生的反事实翻转，也在模型接近饱和置信度时制造新的翻转。在全部九个（模型，数据集）组合中，新制造的翻转数量约为被纠正翻转的 5 倍。作者把思考轨迹本身当作公平性变化的可测量位置，提出 Counterfactual Depth Probability Gap（CDPG）追踪偏见随思考深度的演化，发现偏见随思考传播并放大；还构建 Bias Transition Matrix（BTM）刻画反事实样本对的预测从非思考到思考的变化，指出这种不对称双重效应源于样本对状态的联合转移。