构建逆向思维:提升大语言模型的逆向推理能力
Construting Reverse Thinking: Developing Large Language Models' Reverse Thingking Ability
AI 导读
针对 GPT-o1、GPT-o3、DeepSeek-R1 等长思维链模型默认前向推理的局限,研究者提出逆向推理模式构建方法,通过易-难两阶段数学数据集、两阶段监督微调、平滑奖励机制与线性衰减平衡采样策略,训练模型的逆向思维能力。实验显示该方法在数学证明等任务上显著提升推理效率与准确率,并避免奖励作弊。