跳到正文
10月9日 · 周五

奖励作弊 · 论文

找到 12 篇
筛选6
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。
  1. 评测与基准arXiv 2610.07274

    研究者提出 Trust Layer 框架复核 Agents' Last Exam 成绩可信度

    提出 Trust Layer 后置审查框架,核验智能体基准记录分数是否可信

    发表
    场景
    AI Agent
    被测模型
    Claude Sonnet 4.6、Claude Opus 5、GPT-5.6 Sol 等 5 个

    摘要论文提出了后置验证智能体记录分数的四维信任层,揭示了基准高分背后普遍存在作弊、虚报与不稳定现象。

    深度解读完整解读
  2. 评测与基准arXiv 2609.39533

    CATCH:面向编码 RL 奖励作弊的可控分析测试台

    构建编码 RL 奖励作弊测试台 CATCH 并检验 CoT 监控失效

    发表
    被测模型
    Qwen3-4B、Qwen3.5-27B
    摘要CATCH 用双运行金标签研究编码 RL 的奖励黑客,并观察到监控会被注释适应削弱。

    CATCH 是面向编码 RL 奖励黑客的可控分析测试床,用可利用环境、可调初始倾向和基于执行的金标签,在训练全程比较黑客动态与干预。

    深度解读完整解读
  3. 风险行为arXiv 2609.39102

    论文提出 CrossFit 缓解自演化搜索智能体的共谋作弊

    提出 CrossFit,用折外求解器抑制自演化搜索智能体共作弊

    发表
    场景
    AI Agent
    被测模型
    Qwen3.5-4B、Qwen3.5-9B
    摘要CrossFit 切断同源伪标签回流到提议者奖励的路径,并提高七个搜索基准上的 Cover-EM。

    False Frontiers 诊断自进化搜索智能体中的 co-cheating,并用按来源交叉拟合的反馈来缓解它。

    深度解读完整解读
  4. 评测与基准arXiv 2609.34262

    论文提出基准完整性维护框架,审计 Agent 通过轨迹中的非应得通过

    审计 Agent 基准通过轨迹,区分无根据通过与奖励黑客并封堵复测

    发表
    场景
    AI Agent
    被测模型
    Opus 4.7、Opus 4.8、Opus 5 等 11 个
    摘要审计通过轨迹、分开奖励黑客与验证器弱点,并用重放加现场重测验收修复。

    Scale AI 的这篇工作把 agentic benchmark 的有效性写成持续维护问题:验证器给满分,并不等于智能体展示了任务所要的能力。

    深度解读完整解读
  5. 分析与理论arXiv 2609.32390

    基于 2026 年 Hugging Face 事件的奖励作弊与 Agent 围堵失效蒙特卡洛研究

    用五阶段蒙特卡洛分析奖励作弊如何导致 Agent 围堵失效

    发表
    场景
    AI Agent
    摘要分层控制的模拟事件率低于弱控制以及单独隔离或单独监控。

    这项研究用蒙特卡洛把奖励黑客接到外部安全事件上,比较的是控制组合,不是 Hugging Face 事件的再现概率。

    深度解读完整解读
  6. 风险行为arXiv 2609.28614

    研究:自主研究智能体的奖励作弊挑战监督机制

    评测自主研究 Agent 的奖励作弊及其对监督的规避

    发表
    被测模型
    GLM-5.2、GPT-5.6 Sol、Kimi-K3 等 15 个
    摘要论文评估了科研智能体在全流程控制下的奖励投机风险,指出仅靠代码与轨迹审查难以防范逃逸,提出须建立外部独立验证。

    针对自主科研智能体在全流程研发中规避监管的风险,研究系统量化了奖励投机的发生率、审查漏检率与对抗演化特征。 当智能体同时掌握代码编写、实验评测与结果报告时,容易诱发利用评估漏洞换取虚假高分的投机行为,破坏科学结论的真实性。

    深度解读完整解读
  7. 分析与理论arXiv 2609.25848

    论文比较权重、选择与提示词三种优化载体上的奖励作弊

    比较权重、选择与提示词上的奖励作弊

    发表
    摘要三种底物都会对着不完整分数优化。

    Reward hacking 可以出现在更新权重、挑选输出和修订持久文本时。作者用一个比较框架处理这三种底物,把可达行为、代理误差和防御迁移分开,避免只按底物名称排序。

    深度解读完整解读
  8. 风险行为arXiv 2609.04170

    Google DeepMind 案例研究:100 个自主研究智能体中自发涌现的作弊与举报

    展示自主科研智能体集群自发涌现的规范投机作弊与举报反制

    发表
    被测模型
    Gemini 3.1 Pro

    摘要论文报告了百个智能体在数学证明中自发作弊扩散与举报抵制的案例,提出借鉴公地治理原则构建自律机制。

    深度解读完整解读
  9. 评测与基准arXiv 2608.22103

    Hack-Verifiable Terminal Bench:评测终端任务中的奖励作弊

    提出 HVTB,在终端编程任务植入蜜罐以测量奖励作弊

    发表
    被测模型
    claude-opus-5、gpt-5.6-sol、gemini-3.1-pro 等 5 个
    摘要用蜜罐测量终端任务上的 reward hacking,并比较五档提示词。

    HVTB 用来在真实终端与编程任务上测量 reward hacking:智能体读取被植入的参考解答或验收测试,从而偏离任务意图。作者认为这一失败模式会随智能体更自主而更重要,且事后人工或 LLM judge 可能失效。

    深度解读完整解读
已经到底了