CREDO：用可微读出替代文本采样校准推理模型置信度
Beyond Verbalized Confidence: Calibrating Reasoners with Differentiable Readouts
AI 导读
针对 RLVR 训练出的推理模型系统性过度自信、且现有方法靠文本采样获取置信度导致方差大、取值坍缩、不可微的问题，研究者提出 CREDO（Confidence REaDOut），从模型输出分布中一对专用 token 确定性地读出置信度，并用可微回归训练。CREDO 还将置信度与结果的分歧作为信号对 rollout 加权，使准确率与校准同步提升。在数学与代码推理任务上，CREDO 取得最佳准确率与校准表现，并改善弃答与选择性预测。