在预测文本语言模型中植入与缓解记忆内容

研究者测试了一系列隐私保护技术对缓解语言模型非预期记忆敏感用户文本的效果，实验同时变化了模型规模和对抗条件。结果显示，除 L2 正则化外，无正式隐私保证的启发式缓解方法在其实验中基本无法阻止记忆，可能原因是这类方法对定义敏感或私密文本的特征假设过强；而提供可证明隐私保证的差分隐私训练在实验中可靠地防止了记忆，代价是额外的计算开销和一定的模型性能损失。语言模型被广泛用于产品中的自动文本补全，大模型记忆私有训练数据并可能被对手提取泄露的风险是这项研究的背景。