DP-λCGD：面向差分隐私模型训练的高效噪声关联
DP-λCGD: Efficient Noise Correlation for Differentially Private Model Training
AI 导读
研究者提出差分隐私模型训练新算法 DP-λCGD，在内存占用与 DP-SGD 基本相同的情况下提升训练准确率。矩阵分解机制等现有方法可能需要存储历史噪声向量、内存开销大；DP-λCGD 只将噪声与上一次迭代关联并抵消其中可调部分，用伪随机数生成器重新生成上一轮噪声而非存储。实验显示其计算开销极小，准确率优于 DP-SGD。