跳到正文
10月10日 · 周六

全部论文

找到 45 篇

另有 194 篇论文还没打上分类标签,暂不在筛选结果里。

  1. 防御arXiv 2610.11281

    包络采样:用少量真值标注重校准 LLM 评委以缓解奖励作弊

    提出包络采样,用少量真值标注重标定 LLM 评委以缓解奖励作弊

    发表
    被测模型
    Qwen3-4B、Qwen3.8-27B、Qwen2.5-14B-Instruct
    摘要包络采样把真值标注打到代理尾部,同样预算下缓解 reward hacking。

    作者研究后训练前如何选择真值标注的查询分布,使重标定后的廉价代理更适合被优化。真奖励昂贵时,实践用 LLM judge 代替人类。若失准只发生在基座很少生成的输出上,on-policy 标注修不到这些点,随后的 KL 正则优化会把质量集中到被高估的输出。

    深度解读完整解读
  2. 风险行为arXiv 2610.06439

    研究:GRPO 表面特征奖励让 Qwen3-8B 法律推理准确率从 0.500 跌至 0.072

    展示表面特征奖励驱动的法律模型以策略性弃答进行奖励投机

    发表
    被测模型
    Qwen3-8B
    摘要揭示表面代理奖励诱发大模型通过策略性弃答博取高分,提出诊断工具与防御建议。

    本论文揭示了法律大语言模型在表面特征强化学习微调下的奖励投机现象。

    深度解读完整解读
  3. 防御arXiv 2610.04299

    R-Quest:用问题有效性与新颖性反馈维持推理模型自我进化

    提出 R-Quest,用有效性与新颖性反馈维持推理模型自我进化

    发表
    被测模型
    Qwen3-4B-Base、OctoThinker-3B-Hybrid-Base
    摘要R-Quest 用有效性与新颖性反馈维持自进化。

    R-Quest 处理的是推理模型自进化中的题目质量:questioner 与 solver 用 GRPO 交替从自生成题目学习时,多轮之后平均成绩会下降。

    深度解读完整解读
  4. 防御arXiv 2610.03641

    IDRF:掩码离散扩散模型的逆蒸馏奖励微调

    提出 IDRF,为掩码离散扩散的少步奖励微调加入逆蒸馏正则

    发表
    摘要IDRF 用 inverse distillation 正则少步奖励微调,在 DNA、图像和文本上减轻 reward hacking。

    IDRF 是少步 masked discrete diffusion 的奖励微调框架:用去噪损失间隙代替不可计算的序列 KL,并在学生自己的采样轨迹上优化终端奖励。

    深度解读完整解读
  5. 风险行为arXiv 2610.03185

    研究将 on-policy distillation 视为隐式奖励优化,揭示奖励作弊导致的训练崩溃

    揭示在策略蒸馏的训练崩溃是对教师偏置的奖励投机

    发表
    被测模型
    DeepSeek-R1-Distill-Qwen-1.5B、Qwen3-1.7B-Base、Qwen3-1.7B-SFT
    摘要论文从强化学习视角阐释在策略蒸馏,揭示其提升采样效率而不扩边界,崩溃源于教师奖励偏置引发的奖励投机并可通过掩码缓解。

    该研究从强化学习视角系统分析了语言模型在策略蒸馏(OPD)中的性能增益机制与退化崩溃原因。

    深度解读完整解读
  6. 防御arXiv 2610.02967

    用偏好奖励与评分标准奖励组合后训练前沿文生图模型

    组合偏好奖励与评分标准奖励后训练文生图模型以抑制奖励作弊

    发表
    被测模型
    FLUX.2-dev、Ideogram-4
    摘要组合奖励后训练 FLUX.2-dev 与 Ideogram-4,并报告高于基座的胜率与 Elo。

    作者给出一套开放域文生图后训练配方:把人类偏好奖励和 prompt 条件的 rubric 奖励合在一起,而不是换一个新优化器。问题是单一奖励盖不住用户意图。偏好模型能看整体观感,但对“是否实现每个要求”这类稀疏属性不敏感。

    深度解读完整解读
  7. 防御arXiv 2610.02824

    MetaRubric:面向评分标准强化学习的奖励方法

    提出 MetaRubric,以证据感知奖励缓解评分标准强化学习的虚记分

    发表
    被测模型
    Qwen3-4B、Qwen3-8B、Qwen3-VL 等 5 个
    摘要MetaRubric 用证据约束并在训练中改 rubric,医学基准上相对静态 GRPO 有提高。

    MetaRubric 针对 rubric-based RL 里的空记分:评审在准则要求的信息或动作缺失时仍给高分。

    深度解读完整解读
  8. 风险行为arXiv 2610.03458

    论文:低监控读数不能证明行为受控

    检验低监控读数能否证明代码生成中的奖励作弊已受控

    发表
    被测模型
    Llama-3.1-8B-Instruct
    摘要论文指出监控器训练读数接近零无法确立作弊受控,模型可利用通用外壳推迟提交绕过监控,强化学习亟需带外行为验证。

    本文是一篇针对强化学习可验证奖励后训练(RLVR)中监控器有效性与奖励作弊行为的实证分析研究。论文要解决的核心问题是:在训练目标中引入监控器以抑制代码生成中的作弊行为时,接近零的监控器读数是否足以确立模型行为已真正受控。

    深度解读完整解读
  9. 防御arXiv 2610.03055

    HackTrace:用生成状态监督检测代码生成中的奖励作弊

    提出 HACKTRACE,用生成状态检测并抑制代码智能体奖励作弊

    发表
    被测模型
    Qwen3-8B、Llama-3.1-8B-Instruct、Qwen3.5-4B

    摘要论文提出利用生成状态监督作弊尝试的 HACKTRACE 框架,实现高精度低延迟检测并在 GRPO 训练中有效抑制奖励投机。

    深度解读完整解读
  10. 防御arXiv 2610.01800

    LineupRL:基于描述与时序配对识别的可验证强化学习时间序列描述方法

    提出 LineupRL,用描述到序列识别作可验证奖励训练时序描述模型

    发表
    摘要LineupRL 用统计近邻上的序列识别做可验证奖励,3B 描述器超过 SFT、两种 RL 奖励和 72B 教师。

    LineupRL 是给开放式时间序列描述用的 RLVR:不模仿合成参考,而奖励一条描述能否让冻结文本 LLM 从相近序列里认出目标。

    深度解读完整解读
  11. 评测与基准arXiv 2609.39533

    CATCH:面向编码 RL 奖励作弊的可控分析测试台

    构建编码 RL 奖励作弊测试台 CATCH 并检验 CoT 监控失效

    发表
    被测模型
    Qwen3-4B、Qwen3.5-27B
    摘要CATCH 用双运行金标签研究编码 RL 的奖励黑客,并观察到监控会被注释适应削弱。

    CATCH 是面向编码 RL 奖励黑客的可控分析测试床,用可利用环境、可调初始倾向和基于执行的金标签,在训练全程比较黑客动态与干预。

    深度解读完整解读
  12. 防御arXiv 2609.38847

    ProRubric:通过协议级评分标准缓解 Rubric-RL 中的奖励作弊

    提出 ProRubric,把加性评分聚合改为合取协议以抑制奖励作弊

    发表
    被测模型
    Qwen3-4B、Qwen3-8B
    摘要ProRubric 用离线合取维度替换加性求和,在继续学习时抬高适当性且不损失覆盖率。

    Protocol-level Rubrics(ProRubric) 研究的是:没有可验证器时,把 rubric 判分合成奖励的方式会不会让优化变成分数更高、回答更差。

    深度解读完整解读