自白机制如何让语言模型保持诚实

OpenAI 研究者正在测试一种名为 confessions 的方法，训练模型在犯错或做出不当行为时主动承认，目标是提升 AI 的诚实性、透明度以及人们对模型输出的信任。