潜在推理架构可能削弱 CoT 这一最强监督工具
Latent reasoning architectures would likely undermine CoT, our strongest oversight tool
AI 导读
Lukas Finnveden 在 AI Alignment Forum 发文认为，向潜在推理架构的转变很可能削弱思维链（CoT）的可监控性，使 AI 监督更加困难。文章把 CoT 当前的价值分为两类：必要性，即模型不把计划说出来就无法完成目标；倾向性，即模型即使没必要也倾向于把推理写进 CoT。作者认为必要性论证更稳健，因为 CoT 是模型突破单次前向传播串行步数限制的唯一途径，且 RL 不会很快探索出高度非人类的 CoT 用法。潜在推理架构会缩小甚至消除有 CoT 与无 CoT 能力之间的差距：COCONUT 完全用连续潜在思维替代文本 CoT，full-bandwidth transformer 在 CoT 之外并行增加潜在通道，looped transformer 则在文本瓶颈之间大幅增加串行深度。