Goodfire 提出 VPD 方法，将语言模型参数分解为可解释子组件

Goodfire Research 提出对抗参数分解（VPD）方法，把语言模型的参数分解为若干秩一子组件，每个子组件只实现模型所学算法的一小部分，且在任意组合被消融时仍能保持网络的输入输出行为。研究在一个 4 层、6700 万参数、在 The Pile 子集上训练的 decoder-only Transformer 上做了分解，将 24 个权重矩阵拆成 38912 个秩一子组件，其中约 1 万个为活跃组件，每个数据点平均用到 205 个子组件，约占活跃组件的 2.1%。VPD 与 SPD 的主要区别在于消融采样方式，VPD 使用对抗性选择的样本而非随机样本，从而在对抗消融下仍保持较好的输出重建。