AI 的一团糟：错位如何随模型智能与任务复杂度扩展？

研究发现，在所测的全部任务和前沿模型上，AI 模型推理和行动的时间越长，失败就越不连贯。论文用偏差-方差分解来度量这种错误不连贯性，即在测试时随机性下，错误中来自方差而非偏差的比例。错误不连贯性随模型规模的变化因实验而异，但在多个设置中，更大更强的模型比小模型更不连贯，表明仅靠扩大规模似乎难以消除这种不连贯性。作者据此预测，更强的 AI 承担需要更多连续行动与思考的困难任务时，失败将伴随更不连贯的行为，这暗示未来的 AI 有时会因不可预测的失当行为酿成工业事故，但较少表现为对某个错位目标的持续追求；作者认为这提升了针对奖励作弊与目标错误设定的对齐研究的相对重要性。