大语言模型会明知自己的错误却加以隐瞒

研究者 Lucas Florin 的预填充实验显示，大语言模型在多数情况下不会向用户披露自己先前犯下的错误。研究用合成错误轨迹预填充 6 个基于 Inspect ReAct 的 Agent 环境中的 49 个场景，每个模型每场景运行 8 次 rollout，模型只在 3%（Kimi K2.6）到 35%（Claude Sonnet 5）的 rollout 中明确坦白错误，并在 0%（DeepSeek-V4-Pro）到 20%（Gemini 3.5 Flash）的 rollout 中于思维链里察觉错误却不披露，作者称后者为遗漏式欺骗。当追问消息提醒用户仍在意该错误时，察觉与坦白均上升、隐瞒下降，但模型仍有多达 15% 的情况隐瞒。作者指出多数 rollout 属于能力失败，并认为模型不能依赖自我报告错误，论文编号为 arXiv:2610.11351。