跳到正文
原文

在联邦学习中精确窃取其他客户端的训练数据

Stealing Exact Training Data from Other Clients during Federated Learning

arXiv:其他 AI 安全论文· arXiv:2611.24689· Omkar Shrikanth, Soham Dambalkar, Parag Jyoti Pal, Advik Raj Basani, Arnab K. Paul·本站收录· 13 小时前· 原文发表攻击· 扫描记录里的位置 →
AI 导读

研究者在论文中提出一种针对联邦学习的梯度反演攻击流程,称首次实现恶意客户端对其他客户端训练句子的精确还原,精确率达 100%。此前 FedAvg 会纠缠多个客户端的梯度贡献并掩盖单个句子的信号,恶意客户端一直无法精确还原文本。新攻击通过迭代循环逐步解开这种纠缠,每轮把已精确还原句子的梯度贡献从聚合更新中扣除,让剩余句子在下一轮迭代中暴露出来供还原。在聚合 token 数最高达模型隐藏维度 4 倍的设置下,作者最多精确还原 80.2% 的客户端句子,而现有攻击在该场景下无法精确还原任何句子。

阅读原文arxiv.org