OpenAI 用 SAE 潜变量归因调试失准输出

OpenAI 对齐研究团队提出用稀疏自编码器（SAE）潜变量归因来定位与失准行为因果相关的特征，替代此前依赖两个模型对比的模型差分方法。该方法用一阶泰勒展开近似每个潜变量对补全交叉熵损失的贡献，在同一提示的正负补全之间计算归因差值，再通过激活引导和 GPT-5 评分单独验证因果性。在涌现性失准案例中，团队从同一提示采样 35 对对齐与失准补全，选出归因差值最大的 top-100 潜变量，其可引导模型远离或走向失准的潜变量数量与平均变化幅度均高于按激活差值选出的 top-100。在不当认可案例中，团队使用 148 对补全，得到类似结果。