非礼勿听：检测联邦学习中恶意服务器发起的梯度泄露攻击
Hear No Evil: Detecting Gradient Leakage by Malicious Servers in Federated Learning
AI 导读
研究者从防御视角分析了联邦学习中恶意服务器发起的梯度泄露攻击，发现此类攻击难以同时高效重建客户端隐私数据并保持足够隐蔽以逃避检测。此类攻击中，恶意服务器操纵全局模型，诱使客户端上传包含敏感信息的梯度更新；作者称这是对这类攻击及其模型操纵技术的首次全面分析。在包含常见归一化技术和联邦平均的真实联邦学习设置中，这一权衡尤为突出，作者据此认为攻击虽在理论上值得担忧，但实践中天然受限，往往可通过基础监控发现。论文还提出一种简单、轻量、适用面广的客户端检测机制，在本地训练开始前标记可疑的全局模型更新，以极小开销为注重隐私的联邦学习系统提供可部署的防护。