RubricArmor：用对抗演化改进 LLM 评分标准生成
RubricArmor: Adversarial Evolution Improves LLM-Based Rubric Generation
AI 导读
研究者提出 RubricArmor，一个在评分标准生成阶段提前暴露并缓解奖励作弊的对抗框架。基于评分标准的强化学习通过针对具体查询的评估标准为 LLM 提供可解释奖励，但 LLM 直接生成的评分标准容易因标准遗漏或表述不充分而被策略钻空子，用低质量回答换取高评分。RubricArmor 采用对抗演化，让攻击步骤与修复步骤多轮交替：攻击步骤构造满足当前评分标准却未真正完成任务的对抗回答，模拟策略的奖励作弊；修复步骤据此修订评分标准，使其能识别攻击暴露的回答缺陷，同时保留其他有效标准。实验显示该方法优于同类评分标准生成基线，并带来更有效的下游基于评分标准的 RL。