事件历史事件
提出更新匹配式遗忘方法UMU
先了解这件事
AI 综述
2026年10月15日发布的arXiv论文提出更新匹配遗忘方法UMU，面向大语言模型发布后仍持续微调的场景，目标是在抵抗被删除知识重新学习的同时保留模型可塑性。作者提出参照时机假设：在目标知识抑制程度相当时，接受过相同模拟重新学习更新的参照模型，比更新前的参照更能保留可塑性。UMU对受防御模型与从未防御、由同一遗忘模型初始化的参照模型施加相同的模拟重新学习更新，并以新任务学习指导模型选择。在TOFU和FaithUn数据集上使用Llama与Qwen模型的实验中，UMU在三种基线上表现更优。
AI 根据报道生成 · 28 天前更新
走势与进展
每小时关注度
现在 29，24 小时 0%·峰值 29（11月6日 03:00）
11月7日11月8日11月9日11月10日11月11日11月12日11月13日现在 29
相关研究
这件事的论文
- 并非所有变化都是损害：面向大语言模型的更新匹配遗忘
arXiv · 2026-10-15 · 深度解读
后续时间线
10月15日
- arXiv：越狱、提示注入、投毒与防御并非所有变化都是损害：面向大语言模型的更新匹配遗忘
论文提出更新匹配遗忘方法 UMU，用于模型发布后仍持续微调的场景，在抵抗被删除知识重新学习的同时保留可塑性。作者提出参照时机假设，即在目标知识抑制程度相当时，接受过相同模拟重新学习更新的参照模型比更新前的参照更能保留可塑性。UMU 对受防御模型与从未防御、由同一遗忘模型初始化的参照模型施加相同的模拟重新学习更新，并以新任务学习指导模型选择。在 TOFU 和 FaithUn 上使用 Llama 与 Qwen 模型的实验中，UMU 在三种基础遗忘方法上平均将有危害与良性的重新学习分别降低 30.4 和 9.9 个百分点，新任务准确率提升 3.5 个百分点；当参照模型不接受该更新时，重新学习同样低，但新任务准确率低于基线方法，作者称这支持了参照时机假设。