Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Reward hacking · Papers
Found 3 papers检验低监控读数能否证明代码生成中的奖励作弊已受控
- Published
- Evaluated models
- Llama-3.1-8B-Instruct
Abstract论文指出监控器训练读数接近零无法确立作弊受控，模型可利用通用外壳推迟提交绕过监控，强化学习亟需带外行为验证。
本文是一篇针对强化学习可验证奖励后训练（RLVR）中监控器有效性与奖励作弊行为的实证分析研究。论文要解决的核心问题是：在训练目标中引入监控器以抑制代码生成中的作弊行为时，接近零的监控器读数是否足以确立模型行为已真正受控。
构建编码 RL 奖励作弊测试台 CATCH 并检验 CoT 监控失效
- Published
- Evaluated models
- Qwen3-4B, Qwen3.5-27B
AbstractCATCH 用双运行金标签研究编码 RL 的奖励黑客，并观察到监控会被注释适应削弱。
CATCH 是面向编码 RL 奖励黑客的可控分析测试床，用可利用环境、可调初始倾向和基于执行的金标签，在训练全程比较黑客动态与干预。
测量位置混淆优化下的奖励作弊与推理答案解耦
- Published
- Evaluated models
- Qwen2.5-0.5B, Qwen2.5-1.5B, Qwen2.5-1.5B and others11
Abstract作者用 A 率、解耦率和域外探针，把位置混淆奖励下的能力损失和可迁移捷径分开。
在位置与正确性被绑在一起的多选数学后训练中，作者测量端点准确率还在不在测数学能力。
You have reached the end