损失曲率谱中从记忆到推理的转变
From Memorization to Reasoning in the Spectrum of Loss Curvature
AI 导读
研究者提出基于损失曲率分解的方法，在语言模型和视觉 Transformer（ViT）的权重中区分记忆与非记忆成分，并据此编辑权重。该分解的依据是记忆化训练点的曲率远高于非记忆点，按曲率从高到低排序可在无显式标签的情况下区分两者。以此为基础的权重编辑方法在抑制非目标记忆数据的复述上优于 BalancedSubnet，同时保持更低困惑度。作者称，编辑后事实检索和算术任务持续受到负面影响，而开卷事实检索和一般逻辑推理未受损；任务数据的激活强度与被编辑掉的低曲率成分之间存在对应关系。