跳到正文
10月8日 · 周四

思维链监控 · 论文

找到 2 篇
筛选1

模型自身风险

欺骗与谋划7奖励作弊2失准与价值偏离3Agent 危险操作1

防御类型

监控与审计1

影响

监督失效2

系统形态

模型与 API1AI Agent1编程 Agent1

层

模型层1训练与数据层1

系统组件

监控器1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 41 篇还没打标签，不在筛选结果里。
模型自身风险：奖励作弊话题：思维链监控清除全部

另有 41 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 风险行为arXiv:2610.03185 ·

    研究将 on-policy distillation 视为隐式奖励优化，揭示奖励作弊导致的训练崩溃

    揭示在策略蒸馏的训练崩溃是对教师偏置的奖励投机

    模型与 API测试JustRL-1.5B、DeepScaleR-1.5B-Preview、Qwen3-4B 等 8 个训练与数据层
    摘要论文从强化学习视角阐释在策略蒸馏，揭示其提升采样效率而不扩边界，崩溃源于教师奖励偏置引发的奖励投机并可通过掩码缓解。

    该研究从强化学习视角系统分析了语言模型在策略蒸馏（OPD）中的性能增益机制与退化崩溃原因。

    完整解读
已经到底了