10月8日 · 周四

奖励作弊 · 论文

找到 3 篇

筛选1

模型自身风险

欺骗与谋划1 奖励作弊2

防御类型

模型加固1 监控与审计2

影响

系统形态

AI Agent3 编程 Agent2

攻击面/入口

代码仓库与依赖1

层

模型层2 应用层3 训练与数据层2

系统组件

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 67 篇还没打标签，不在筛选结果里。

层：应用层话题：奖励作弊清除全部

另有 67 篇论文还没打上分类标签，暂不在筛选结果里。

防御arXiv:2610.09159 · 10月7日
SpecGuard 用 Lean 证书在编码 Agent 执行前证明任务冲突
提出 SpecGuard，在编码智能体执行前用 Lean 证书证明任务与测试冲突
编程 Agent测试GPT-5.6 Sol、Claude Opus 5、Claude Fable 5 等 4 个应用层
- 奖励作弊
摘要提出预执行冲突检测与证明框架，在多个基准和真实仓库中成功证明任务与测试不可同时满足。
完整解读
防御arXiv:2610.03055 · 10月2日
HackTrace：用生成状态监督检测代码生成中的奖励作弊
提出 HACKTRACE 用生成状态检测并抑制代码奖励作弊
编程 Agent测试Qwen3-8B、Llama-3.1-8B-Instruct、Qwen3.5-4B 等 4 个应用层
摘要论文提出利用生成状态监督作弊尝试的 HACKTRACE 框架，实现高精度低延迟检测并在 GRPO 训练中有效抑制奖励投机。
完整解读
防御arXiv:2608.25460 · 8月26日
用强化学习训练对齐审计员：成对奖励加校准让 Haiku 4.5 追平 Opus 4.6
用强化学习与成对比较奖励训练对齐审计模型并校准假阳性
AI Agent测试Claude Haiku 4.5、Claude Opus 4.6、Claude Opus 4.7 等 15 个应用层
摘要系统总结了强化学习训练对齐审计器的核心问题、成对奖励与校准方法及主要结果。
完整解读

已经到底了