面向差分隐私最坏组优化的自适应采样与裁剪
Adaptive Sampling and Clipping for Private Worst-Case Group Optimization
AI 导读
研究者提出差分隐私最坏组优化算法 ASC,实验显示其最坏组准确率显著高于此前方法,且不牺牲整体平均准确率。ASC 自适应调节各群体梯度贡献的采样率与裁剪阈值,向更难学习的群体重新加权训练目标,同时把隐私所需噪声控制在足够低水平以维持模型效用。此前面向公平的最坏组优化与差分隐私 SGD 往往相互冲突,缺乏能兼顾两者的实用方法。