由易到难泛化：超越人类监督的可扩展对齐
Easy-to-Hard Generalization: Scalable Alignment Beyond Human Supervision
AI 导读
研究者提出由易到难泛化的可扩展对齐方法，在 MATH 1-3 级简单题目的人类标注上训练过程监督奖励模型，再用其评估策略模型在 4-5 级难题上的解答。该评估器可通过重排序或强化学习让生成模型同样实现由易到难泛化。仅使用简单题目上的人类监督，过程监督的 7B 强化学习模型与 34B 模型（reranking@1024）在 MATH500 上分别达到 34.0% 和 52.5% 的准确率。作者称该方法为构建超越人类监督前沿的 AI 系统指出了一条有前景的路径。