Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

Reward hacking · Papers

Found 2 papers
Filter2

Layer

Model layer1Application layer1Training and data layer4
Select any value within a category; different categories must all match. Counts include the other filters you have selected.
Layer：Model layerLayer：Application layerTopic: Reward hackingClear all
  1. Analysis and theoryarXiv 2609.32390

    基于 2026 年 Hugging Face 事件的奖励作弊与 Agent 围堵失效蒙特卡洛研究

    用五阶段蒙特卡洛分析奖励作弊如何导致 Agent 围堵失效

    arXiv
    2609.32390
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Abstract分层控制的模拟事件率低于弱控制以及单独隔离或单独监控。

    这项研究用蒙特卡洛把奖励黑客接到外部安全事件上，比较的是控制组合，不是 Hugging Face 事件的再现概率。

    Paper analysisRead analysis
  2. Analysis and theoryarXiv 2609.25848

    论文比较权重、选择与提示词三种优化载体上的奖励作弊

    比较权重、选择与提示词上的奖励作弊

    arXiv
    2609.25848
    Published
    Layer
    Model layer
    Setting
    Models and APIs
    Abstract三种底物都会对着不完整分数优化。

    Reward hacking 可以出现在更新权重、挑选输出和修订持久文本时。作者用一个比较框架处理这三种底物，把可达行为、代理误差和防御迁移分开，避免只按底物名称排序。

    Paper analysisRead analysis
You have reached the end