研究指出解码器余弦相似度在 SAE 特征流发现中的失效
Where Decoder Cosine Similarity Fails for SAE Feature Flow Discovery
AI 导读
研究以 MLP 更新为切入点，构建残差状态特征与更新特征共同预测目标残差特征的三元组转移图谱，并通过消融解码后的更新特征来验证候选三元组。在 Pythia-160M 的 L7 到 L8、20M token 实验中，共发现 38,125 个强消融效应转移，但其中 88.0% 的状态-目标与更新-目标解码器余弦相似度都低于 0.7。作为跨模型初步检验，Gemma-3-4B 的 L21 到 L22、20M token 实验只对排名前 30,000 的候选三元组做因果验证，强效应三元组中有 53.6% 的两项余弦相似度均低于 0.7。