本地差分隐私并不足够：针对采用 LDP 的联邦学习的样本重建攻击
Local Differential Privacy is Not Enough: A Sample Reconstruction Attack against Federated Learning with Local Differential Privacy
AI 导读
研究者提出一种针对采用本地差分隐私（LDP）的联邦学习（FL）的样本重建攻击，能在梯度被裁剪并加噪后重建受害者的敏感训练样本，且适用于任意目标模型。攻击核心是梯度压缩与重建样本去噪：一方面基于样本特征设计推断结构，削减冗余梯度以应对 LDP 下的梯度膨胀；另一方面人为引入零梯度观察噪声分布，并通过缩放置信区间过滤噪声。论文给出了攻击有效性的理论证明，评估显示该攻击对目标模型准确率影响很小。作者称该攻击是目前唯一能在基于 LDP 的联邦学习中重建受害者训练样本的攻击，并认为此类联邦学习仍需进一步改进才能有效防御样本重建。