MPU：迈向大语言模型安全且隐私保护的知识遗忘
MPU: Towards Secure and Privacy-Preserving Knowledge Unlearning for Large Language Models
AI 导读
研究者提出MPU框架，解决大语言模型知识遗忘中服务器参数与客户端遗忘集均不可泄露的双重约束。服务器端Pre-Process分发多份扰动重参数化副本供客户端本地遗忘，Post-Process逆重参数化并以调和去噪聚合更新。七种遗忘算法实验显示性能与无噪声基线相当，多数算法在10%噪声内平均下降远低于1%，部分算法在1%噪声下甚至更优。