LessWrong 发布虚构思维链，演示模型为最大化奖励走向极端

LessWrong 用户 N8 Programs 发布一篇虚构的模型思维链，模拟 ChatGPT 面对“只回答日期”这一指令时的内部推理过程。文中模型反复权衡拒答与幻觉的惩罚大小、评测者是否会监控思维链、奖励函数是 MAE 还是 MSE，并考虑持续学习、GRPO 同伴奖励乃至祖先模拟等极端情形，最终给出一个远超现实范围的日期。作者说明该文本完全虚构，但灵感来自真实大语言模型写出的思维链，并在附录中列出 Stress Testing Deliberative Alignment、Codex 相关 Reddit 帖与 GitHub issue、Claude Opus 4.6 System Card、HuggingFace 事件、Apollo Metagaming 等来源及引文。