研究者提出基于评分量表的可解释奖励框架，将宪法转化为可调对齐目标
From Constitutions to Control: Interpretable Rewards for Aligning Language Models
AI 导读
研究者提出一种基于评分量表（rubric）的框架，把通用宪法转化为可解释、可调的奖励模型，并用宪法引导的 AI 反馈估计各评分项的初始权重。通过在训练中重新加权这些维度，实验显示可以较独立地、可预测地改变目标行为，并在政治对齐与安全-有用性权衡等冲突目标之间进行调节。该框架还能通过降低偏好判断中标签偏差的影响，缓解谄媚和人口统计偏差等问题。作者认为，由宪法推导的可解释奖励能把高层对齐原则转化为更透明、更可控的模型行为。