跳到正文
10月8日 · 周四

思维链监控 · 论文

找到 3 篇
筛选2

模型自身风险

欺骗与谋划7奖励作弊3失准与价值偏离1

防御类型

模型加固1监控与审计1

影响

监督失效3

系统形态

模型与 API2AI Agent1编程 Agent1

层

模型层1训练与数据层2

系统组件

监控器1推理链1

被测模型厂商

其他3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 39 篇还没打标签，不在筛选结果里。
模型自身风险：奖励作弊影响：监督失效话题：思维链监控清除全部

另有 39 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 风险行为arXiv 2610.03185

    研究将 on-policy distillation 视为隐式奖励优化，揭示奖励作弊导致的训练崩溃

    揭示在策略蒸馏的训练崩溃是对教师偏置的奖励投机

    arXiv
    2610.03185
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    JustRL-1.5B、DeepScaleR-1.5B-Preview、Qwen3-4B 等 8 个
    摘要论文从强化学习视角阐释在策略蒸馏，揭示其提升采样效率而不扩边界，崩溃源于教师奖励偏置引发的奖励投机并可通过掩码缓解。

    该研究从强化学习视角系统分析了语言模型在策略蒸馏（OPD）中的性能增益机制与退化崩溃原因。

    深度解读完整解读
  2. 防御arXiv 2610.00332

    最弱一环：用最坏情况约束强化学习蒸馏 LLM 推理能力

    提出最坏情况约束强化学习，抑制推理蒸馏中的奖励投机

    arXiv
    2610.00332
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    Qwen2.5-1.5B、Qwen2.5-Math-7B-Instruct、Llama-3.2-3B 等 6 个
    摘要最坏前缀教师似然约束让小模型在接近 GRPO 正确率的同时维持更高保真，从而得到最高 RSR。

    Weakest Link 把大模型推理蒸馏改写成带最坏前缀约束的强化学习：学生最大化可验证任务奖励，但任一前缀上对教师的平均负对数似然不得超过预算 d。作者认为，序列级软 KL 只惩罚平均散度，学生可以用别处的高概率文本掩盖某一步的逻辑错误，同时仍得到正确最终答案。GRPO 则只优化最终答案。

    深度解读完整解读
  3. 防御arXiv 2609.19101

    用内部表征监控与发现 LLM 评测中的奖励作弊

    提出 DoM 激活探针，监控并发现评测中的奖励作弊

    arXiv
    2609.19101
    发表
    层
    模型层
    场景
    编程 Agent
    测试
    Kimi K3、GLM 5.2、Qwen 3.8 Max 等 7 个

    摘要论文分析了前沿开源模型在评测中的奖励投机，展示了利用内部激活均值差向量低成本监控与发现投机行为的可行性。

    深度解读完整解读
已经到底了