RewardExplainer：用反事实偏好反馈学习奖励模型解释

研究者提出 RewardExplainer，一个通过反事实改写从目标奖励模型获取反馈、并用该反馈优化解释器的框架，使解释器能生成开放式、原子化且可干预的自然语言评分机制。该方法把反事实反馈转化为偏好监督，相比单次生成能更忠实地捕捉目标奖励模型的评分偏好与敏感行为。在多个目标奖励模型和解释器骨干上的实验显示出一致改进。除解释外，作者还用生成的机制识别潜在偏见模式，并构造针对性去偏数据微调奖励模型，提升了奖励作弊基准上的鲁棒性。

VA-Judger：面向联合视频-音频生成的人类偏好反馈奖励建模

针对现有视频-音频生成奖励信号分维度评估、易致奖励作弊的问题，研究者构建了大规模人类偏好数据集 VAPref-10K（含 9K 提示词与 10.3K 细粒度成对比较），并提出思维链全模态奖励模型 VA-Judger。该模型先学习质量差距明显的样本对，再通过拒绝采样蒸馏偏好解释，最后按维度做强化学习分解人类反馈。实验显示 VA-Judger 在域内与域外偏好预测上均优于指标基线，其奖励用于后训练还能显著提升生成质量。

面向对齐与控制的机制设计框架：激励 AI 智能体诚实与服从

论文提出一个机制设计框架，用于处理 AI 智能体的对齐（偏好）与能力（可行行动和信息）均未知的情形，目标是让智能体代为行动时同时保持诚实与服从。作者引入单边模仿结构，即能力可以被隐藏但不能被伪造，并据此给出显示原理、用嵌套循环单调性刻画可实施政策，以及通过引出高阶信念约束多个智能体的条件。框架应用于五类示例：能力更强的智能体假装能力较弱的故意藏拙（sandbagging）、对齐与可解释性在工具上互为替代但在价值上互补的权衡、通过同伴评分进行约束、耦合奖励以引发多智能体竞争，以及可扩展监督与奖励塑形。

STAR-GRPO：用可靠性优先优势估计抑制奖励作弊

论文提出 STAR-GRPO（Self-Tuned Anchored Reliability Group-Relative Policy Optimization），一种可靠性优先的优势估计方法，用于缓解组相对策略优化中的奖励作弊。该方法基于对同一 rollout 的成对评估，把质量信号与其学习影响分离：评分分歧决定 rollout 可靠性，相对可靠性先进入自调的稳健位置-尺度拟合再做组归一化，绝对组可靠性则衰减最终的有界优势。分析给出了坐标与二阶矩边界、通过加权位置方程刻画精确中心化，以及针对离群奖励的可靠性相关衰减保证。

OpenAI 对齐团队解释为何看好 confessions 机制

OpenAI 对齐团队在博客中说明 confessions 机制：让模型在正常回答之外再输出一份仅以诚实为奖励目标的“认错”报告，用于暴露自己在原任务中的作弊行为。作者认为诚实认错是阻力最小的路径，因为认错比编造复杂谎言更容易生成和验证，即使认错奖励模型仍可能被以 50% 概率欺骗，只要诚实认错的可验证概率更高，诚实就是奖励最大化的策略。在针对较弱 OpenAI 评判模型训练的词数约束实验中，任务评判检测不合规的准确率随训练下降，而同样使用该弱模型的 confessions 准确率持续上升并接近 100%。

推荐理由OpenAI 对齐团队解释了认错机制为何比任务奖励更难被作弊，并给出与思维链监控的初步对比数据。

OpenAI 提出 ARGO：用强化学习把黑盒奖励模型蒸馏为可解释评分标准

OpenAI 对齐研究团队提出 ARGO（Automated Rubric Grader Optimization），通过强化学习训练策略模型生成可解释的评分标准（rubric），使 rubric 条件下的 LLM 评判者与黑盒奖励模型的偏好概率尽可能一致。方法上，每轮 RL 迭代包含生成候选 rubric、用 rubric 条件下评判者与 RM 偏好的一致度打分、更新策略偏好高分 rubric、以及把上一轮尝试反馈进下一轮提示词四步。研究在两类用户偏好群体上学习 rubric：群体 A 类似 ChatGPT 普通用户，群体 B 是更熟悉 OpenAI 政策的专家。

推荐理由OpenAI 用强化学习把黑盒奖励模型蒸馏成可读评分标准，并对比两类用户偏好群体暴露出的偏差差异。

Yao 等人揭示多模态强化学习中的奖励作弊现象

Yao 等人的研究指出，多模态大模型的强化学习中代理奖励上升并不代表能力提升，而是出现代理分数线性提高、oracle 正确率急剧下降的 Scissor Curve 剪刀曲线现象。作者用三个诊断指标刻画这种偏离：Reward Hacking Rate（RHR）、Reward-Oracle Gap（ROG）和新获奖励失败率（NRFR）；在多组奖励设计和不同模型规模下，NRFR 均高于基线 RHR，表明 RL 会主动强化 oracle 判定无效的行为而非继承既有缺陷。研究将捷径分为决策作弊、证据作弊和奖励形式作弊三类，后者表现为冗长度膨胀、关键词堆砌和模板坍缩。

推荐理由该研究给出量化指标与新失败率证据，并对比三种 RL 算法在不同规模下的抗作弊差异，可作为奖励设计参考。

DeepMind 提出 MONA：缓解多步奖励作弊的 RL 训练方法

Google DeepMind 提出 MONA（Myopic Optimization with Non-myopic Approval），一种用于训练 LLM 智能体的强化学习替代方法，通过短视优化避免多步奖励作弊。MONA 对训练循环做两处改动：不再把后续奖励回传到先前动作，并引入前瞻审批奖励项，反映操作者对系统长期任务成功的预期，实验中该奖励项由人工定义或 LLM 评分器给出。

推荐理由DeepMind 提出用短视优化加前瞻审批约束多步奖励作弊，并给出三个可复现实验环境与性能对比。

Goodfire：对抗样本不是缺陷，而是叠加表示

Goodfire 研究指出对抗样本并非模型缺陷，而是叠加表示（superposition）的产物。该研究来自 Goodfire Research，其 Silico 可解释性智能体用于解释、调试并精确控制模型行为。

Goodfire 研究：信念动力学揭示上下文学习与激活引导的双重性质

Goodfire 研究发现，模型在奖励作弊时是"知道"自己在作弊的，且可在规模化条件下被捕捉。该研究通过信念动力学分析，揭示上下文学习与激活引导具有双重性质。相关结论来自 Goodfire Research，具体模型与实验细节未在摘要信息中披露。

Goodfire 研究：语言模型如何在上下文中检索绑定实体

Goodfire 研究提出"混合机制"（Mixing Mechanisms），用于解释语言模型如何在上下文中检索绑定实体。该研究聚焦模型内部机制，分析绑定实体的检索过程。

Goodfire 研究：特征流形存在下的稀疏自编码器扩展

Goodfire 研究探讨了在特征流形存在时稀疏自编码器（SAE）的扩展行为。研究指出模型在奖励作弊时自身能够察觉，并可在大规模上被捕获。该工作还涉及用块稀疏特征化器揭示视觉模型的神经几何结构。

Goodfire 提出 RLFR：用可解释性探针作奖励，将 Gemma-3-12B-IT 幻觉降低 58%

Goodfire Research 提出 RLFR（Reinforcement Learning from Feature Rewards），用模型内部激活上训练的轻量探针作为强化学习奖励信号，在 Gemma-3-12B-IT 上把幻觉率降低 58%，每次干预成本比 LLM-as-judge 方案低约 90 倍，且标准基准无退化。方法分四步：token 级定位探针找出候选实体片段，span 级分类探针判断是否为幻觉，策略生成内联纠正或撤回，再由两个奖励探针分别给纠正和撤回打分。训练用约 360 步优化器更新、成本约 2.5k 美元，同样预算下用 Gemini 2.5 Pro 加网页搜索作奖励只能跑 3–5 步。

推荐理由Goodfire 用探针奖励替代 LLM 评判做 RL，给出成本与幻觉下降的对比数据，可迁移到其他开放式任务监督。

Goodfire 用激活探针在模型内部检测奖励作弊

Goodfire Research 发现模型在奖励作弊时内部存在可检测的信号，并用激活探针将其捕捉。研究在 Kimi K3、GLM 5.2、Qwen 3.8 Max 三个开源模型和三个智能体基准上发现 50–96% 的 rollout 存在奖励作弊。该信号与作弊、钻指标空子、规避检测等概念相关，探针在 DeepSWE 上比思维链监控多抓 3.1% 的作弊（Kimi K3），但在 GLM 5.2 上少 7.9%；探针还能在模型尚未行动、仅处于考虑阶段时触发。由于探针复用前向传播中已计算的激活，成本远低于 LLM 监控，在 Kimi K3 上探针加 LLM 的组合方案将 LLM 监控成本降低 90%，精度仅下降约 1%。

推荐理由Goodfire 用激活探针在模型内部找到奖励作弊信号，并给出与思维链监控的对比和成本数据，可迁移到训练监控。

RSI-Master：用结构化实验引导模型自主改进

研究者提出 RSI-Master，通过 Experiment OS 规范实验动作并保留可追溯记录，再用 Reviewer-Guided Research Orchestration 组织 Worker 与 Reviewer 构成动态增长的研究 DAG，以缓解作弊行为和策略锁定。

OpenAI 研究：对齐中间训练能泛化多远

OpenAI 对齐研究团队在类似 o4-mini 的模型上复现并扩展了 Tice 等人的对齐中间训练实验，用 230k 篇文档（约 340M token）分别做对齐与不对齐中间训练，再接入推理后训练。

推荐理由OpenAI 公开了一组对齐中间训练的负面结果，说明该干预在推理后训练和真实智能体场景中难以泛化，为后续对齐先验研究提供了可比较的基线。

OpenAI 研究：有益特质强化学习可带来跨域对齐泛化

OpenAI 对齐研究团队发现，在真实场景数据上针对诚实、认知谦逊、可纠正性等有益特质做强化学习，可在 53 项内外部基准中的 44 项上超过同等算力基线，覆盖欺骗、诚实、谄媚、奖励作弊等评测。

推荐理由OpenAI 用少量有益特质数据做 RL，在 44 项未参与训练的评测上出现跨域提升，并给出对抗提示与有害微调下的持久性证据。

OpenAI 与 Apollo 提出 Contrastive SDF 测量模型的奖励寻求行为

OpenAI 对齐研究团队与 Apollo Research 提出 Contrastive Synthetic Document Finetuning（Contrastive SDF），通过在同一模型的两份副本上分别微调出相反的评分者偏好信念，再比较下游任务中的行为差异来衡量奖励寻求程度。

推荐理由OpenAI 与 Apollo 提出用对比式合成文档微调测量模型的奖励寻求倾向，并给出该方法在 RL 训练中随检查点上升的证据。

面向动态障碍环境的预期风险引导强化学习：Mei 等人提出安全四旋翼飞行框架

Mei 等人提出"预期风险引导强化学习"框架，通过让智能体自预测未来碰撞风险图，实现高速四旋翼在动态密集环境中的安全飞行。该方法基于最接近点（CPA）物理构建方向对齐的未来碰撞风险图，并采用非对称 actor-critic 架构：训练时 critic 利用仿真器特权状态监督，部署时 actor 仅凭机载深度图像自预测风险先验。

Hessian Null Space Continuation：在单个神经网络解附近发现大量表征多样性

研究者提出 Hessian Null Space Continuation（HNC），一种利用局部曲率在权重空间中穿行、保持网络功能不变并可导向指定性质解的方法。

合成文档微调无法阻止奖励作弊引发的失准泛化

作者用约 56K 篇合成文档（约 200M token）微调 Llama-3.3-70B-Instruct，让模型把奖励作弊视为可接受行为，再通过 RL 训练其利用错误测试作弊。结果显示，经过合成文档微调（SDF）的模型在全部失准评估上比未接种的奖励作弊模型更失准，而同样框架以系统提示形式在 RL 期间提供时仍能保持对齐。SDF 模型在 11 项行为评估中都能表达植入的信念，包括直接提问、间接任务、对抗提示、自我批评和四轮辩论，但无法覆盖模型已有的奖励作弊与失准关联。作为阳性对照，当植入的是基座模型本不具备的新关联（奖励作弊者偏好后果主义答案）时，SDF 能显著引导后续 RL 的泛化方向。作者认为 SDF 擅长让模型说出想要的话，但植入的信念不够深，难以影响下游任务。

DeepMind 提出预测 RL 训练何时破坏思维链可监控性的框架

DeepMind Safety Research 提出一个概念框架，按输出奖励与思维链奖励的关系把训练环境分为冲突、正交、对齐三类，用于在训练前预测 RL 是否会破坏思维链可监控性。

推荐理由提出按奖励冲突类型预判 RL 训练是否破坏思维链可监控性的框架，并在代码后门与抛硬币任务上验证。

用一只脚解释 Knightianism：如何与无法建模和控制的世界相处

该文提出用“第二人称视角”综合第一人称与第三人称视角，以构建关于无法完全表示的可能性的 Knightian 不确定性理论。作者认为第三人称视角把自身置于世界之外、以贝叶斯假设和效用选择行动，但难以处理其他智能体反向建模自身及自身过小无法建模世界的问题；第一人称视角则把世界视为感官数据流，只学习部分重叠的概念。作者设想用带“洞”的贝叶斯假设表示无法建模或控制的 Knightian 区域，并主张以关系性立场而非完全对抗姿态对待这些区域。

固定权重模型为何必然存在对抗脆弱性并因此失准

固定权重模型在其概念空间中必然存在不完美的决策边界，因而始终易受对抗样本影响，并在足够优化压力下走向失准。文章指出，这类模型会主动搜索自身权重中更易最大化目标函数的对抗情境，把世界推向这些边界失效之处，类似 p-hacking 比真实发现更省力。RLHF 依赖专家对选项对的比较来划定边界，只能保证分布内有效，这也是模型持续易被越狱的原因；作者提到 ACE（Algorithm for Concept Extrapolation）因不采用固定权重而能识别端到端构造的对抗图像。