跳到正文

奖励作弊

今天新收录 6 条
只看论文
奖励作弊

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindMetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架

第 3 页更新的内容回到最新

10月1日周四
  1. arXiv：对齐、欺骗与监督 · 收录 · 原文 论文50

    研究重访奖励优化的缩放律：性能随偏好数据量与 KL 预算变化

    论文重新审视 AI 对齐中针对奖励模型优化的缩放律，提出性能大致按 Θ(√min{log(M),K}) 缩放，其中 M 是训练数据中的比较次数，K 是策略相对参考策略的 KL 散度预算。作者用信息论模型建立该上界，并证明可通过构造性过程紧致达到。实证部分采用真实标注设置，由 70B 金标奖励模型生成反馈数据，再用能力较弱的 0.6B 至 4B 模型训练代理奖励模型，缩放律拟合 R2 达 97% 至 99%，优于其他设定，并在不同模型规模、噪声和 best-of-N 或策略倾斜等优化方式下保持稳健。作者据此认为奖励优化类似于一个简单的选择任务，即依据带噪偏好反馈从一串独立同分布高斯随机变量中挑选。

    对齐#对齐#奖励作弊#arXiv
  2. arXiv · 收录 · 原文 论文29

    Audit-First VAPO：不完美验证下的风险认证选择性更新

    Audit-First VAPO 将离散的方向准入与连续的幅度控制分离，用仅观测的接受-申诉-弃权策略在有限二次验证预算下冻结动作轨迹，再通过同时有限样本界认证所选有害风险、覆盖率和验证器调用率。在 Qwen3.5-0.8B 与 GSM8K 上，目标风险 ρ=0.08 时准确率 74.1%、所选有害风险 0.0697、覆盖率 0.4125、相对验证器成本 1.16×；匹配覆盖率与更新幅度下，其与随机选择的所选风险差为 -0.0260（配对 95% 区间 [-0.0364,-0.0157]）。在非对称、置信度相关和相关性验证器噪声下，60 次独立运行中 57 次满足认证。

    对齐#阿里巴巴 · Qwen#对齐#奖励作弊#安全评测#arXiv
  3. arXiv · 收录 · 原文 论文43

    RewardExplainer：用反事实偏好反馈学习奖励模型解释

    研究者提出 RewardExplainer，一个通过反事实改写从目标奖励模型获取反馈、并用该反馈优化解释器的框架，使解释器能生成开放式、原子化且可干预的自然语言评分机制。该方法把反事实反馈转化为偏好监督，相比单次生成能更忠实地捕捉目标奖励模型的评分偏好与敏感行为。在多个目标奖励模型和解释器骨干上的实验显示出一致改进。除解释外，作者还用生成的机制识别潜在偏见模式，并构造针对性去偏数据微调奖励模型，提升了奖励作弊基准上的鲁棒性。

    对齐#对齐#奖励作弊#arXiv
  4. arXiv · 收录 · 原文 论文8

    VA-Judger：面向联合视频-音频生成的人类偏好反馈奖励建模

    针对现有视频-音频生成奖励信号分维度评估、易致奖励作弊的问题，研究者构建了大规模人类偏好数据集 VAPref-10K（含 9K 提示词与 10.3K 细粒度成对比较），并提出思维链全模态奖励模型 VA-Judger。该模型先学习质量差距明显的样本对，再通过拒绝采样蒸馏偏好解释，最后按维度做强化学习分解人类反馈。实验显示 VA-Judger 在域内与域外偏好预测上均优于指标基线，其奖励用于后训练还能显著提升生成质量。

    对齐#对齐#奖励作弊#多模态#arXiv
  5. arXiv：危险能力与安全评测 · 收录 · 原文 论文43

    面向对齐与控制的机制设计框架：激励 AI 智能体诚实与服从

    论文提出一个机制设计框架，用于处理 AI 智能体的对齐（偏好）与能力（可行行动和信息）均未知的情形，目标是让智能体代为行动时同时保持诚实与服从。作者引入单边模仿结构，即能力可以被隐藏但不能被伪造，并据此给出显示原理、用嵌套循环单调性刻画可实施政策，以及通过引出高阶信念约束多个智能体的条件。框架应用于五类示例：能力更强的智能体假装能力较弱的故意藏拙（sandbagging）、对齐与可解释性在工具上互为替代但在价值上互补的权衡、通过同伴评分进行约束、耦合奖励以引发多智能体竞争，以及可扩展监督与奖励塑形。

    对齐#对齐#奖励作弊#arXiv
  6. arXiv：对齐、欺骗与监督 · 收录 · 原文 论文43

    STAR-GRPO：用可靠性优先优势估计抑制奖励作弊

    论文提出 STAR-GRPO（Self-Tuned Anchored Reliability Group-Relative Policy Optimization），一种可靠性优先的优势估计方法，用于缓解组相对策略优化中的奖励作弊。该方法基于对同一 rollout 的成对评估，把质量信号与其学习影响分离：评分分歧决定 rollout 可靠性，相对可靠性先进入自调的稳健位置-尺度拟合再做组归一化，绝对组可靠性则衰减最终的有界优势。分析给出了坐标与二阶矩边界、通过加权位置方程刻画精确中心化，以及针对离群奖励的可靠性相关衰减保证。

    对齐#对齐#奖励作弊
9月30日周三
已经到底了