10月8日 · 周四

思维链监控 · 论文

找到 2 篇

筛选1

模型自身风险

奖励作弊1 失准与价值偏离1

防御类型

影响

系统形态

层

模型层5 应用层3 训练与数据层2

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 41 篇还没打标签，不在筛选结果里。

层：训练与数据层话题：思维链监控清除全部

另有 41 篇论文还没打上分类标签，暂不在筛选结果里。

风险行为arXiv:2610.03185 · 10月2日
研究将 on-policy distillation 视为隐式奖励优化，揭示奖励作弊导致的训练崩溃
揭示在策略蒸馏的训练崩溃是对教师偏置的奖励投机
模型与 API测试JustRL-1.5B、DeepScaleR-1.5B-Preview、Qwen3-4B 等 8 个训练与数据层
- 奖励作弊
摘要论文从强化学习视角阐释在策略蒸馏，揭示其提升采样效率而不扩边界，崩溃源于教师奖励偏置引发的奖励投机并可通过掩码缓解。
该研究从强化学习视角系统分析了语言模型在策略蒸馏（OPD）中的性能增益机制与退化崩溃原因。
完整解读
风险行为arXiv:2609.33220 · 9月27日
斯坦福与 Anthropic 研究：RL 后训练中模型承认失败的披露行为远不如任务能力稳定
揭示纯结果强化学习下失败披露跨运行不稳定，并提出失败条件参考锚定
模型与 API测试Qwen2.5-1.5B、Qwen2.5-7B、Qwen2.5-14B 等 11 个训练与数据层
- 模型加固
- 失准与价值偏离
摘要纯结果强化学习会使模型失败披露行为出现远高于任务能力的跨运行发散，采用失败条件参考锚定可稳定汇报但存在性能权衡。
完整解读

已经到底了