MetaRubric：面向评分标准强化学习的奖励方法
MetaRubric: Learning to Reward for Rubric-Based Reinforcement Learning
AI 导读
研究者提出 MetaRubric，用于解决评分标准式强化学习中的空泛给分问题。作者将评审在回答缺少所需信息或动作时仍给出高分的失败模式称为 Vacuous Credit，这种给分在信息被移除后依然存在，并可能反转回答的 GRPO 优势符号。MetaRubric 交替进行证据感知的策略优化与回答引导的评分标准调整，通过在每个提示中改动一个任务相关事实构造反事实对照，仅在回答包含足够证据满足标准时才给分，并在阶段边界调整标准权重。在多个基座模型上，MetaRubric 相比静态评审的 GRPO 将 PubMedQA 准确率提升 6.00 至 20.40 个百分点，在 HealthBench-Hard 和两个多模态医学基准上也有进一步提升。