当遗忘的事实回归:基于切线核的知识图谱嵌入重学习感知遗忘
When Forgotten Facts Return: Relearning-Aware Unlearning of Knowledge Graph Embeddings via Tangent Kernels
AI 导读
研究者提出 Kernel-Anticipated Unlearning(KAU),用切线核约束知识图谱嵌入的遗忘损失,以降低已遗忘事实在持续训练中复现。近似遗忘通过编辑实体嵌入而非从头重训来响应删除请求,但这些嵌入会随新事实继续更新。在相同的持续训练下,被遗忘事实的复现程度高于用相同数据重训的精确遗忘基线,原因追溯到被遗忘事实与新事实共享的实体嵌入。作者称这是首个关于知识图谱嵌入重学习的研究;KAU 将一阶响应写成闭式并纳入遗忘损失,使编辑方向更不易被持续训练逆转。在三个骨干模型上,相比最强的知识图谱遗忘方法,KAU 在 FB15k-237 上将泄漏降低 46-63%,在 CoDEx-L 上降低 50-82%,且保留效用更高。