在联邦学习中精确窃取其他客户端的训练数据
Stealing Exact Training Data from Other Clients during Federated Learning
AI 导读
研究者在论文中提出一种针对联邦学习的梯度反演攻击流程,称首次实现恶意客户端对其他客户端训练句子的精确还原,精确率达 100%。此前 FedAvg 会纠缠多个客户端的梯度贡献并掩盖单个句子的信号,恶意客户端一直无法精确还原文本。新攻击通过迭代循环逐步解开这种纠缠,每轮把已精确还原句子的梯度贡献从聚合更新中扣除,让剩余句子在下一轮迭代中暴露出来供还原。在聚合 token 数最高达模型隐藏维度 4 倍的设置下,作者最多精确还原 80.2% 的客户端句子,而现有攻击在该场景下无法精确还原任何句子。