Curation Leaks：针对机器学习数据筛选的成员推断攻击

研究者提出针对机器学习数据筛选（data curation）的新型成员推断攻击，显示仅用筛选后公开数据训练的模型仍会泄露引导筛选的私有数据集的成员信息。这类设定中私有数据只用于引导挑选公开数据，模型从未直接在其上训练；在无额外保护时，攻击覆盖筛选分数计算、筛选子集选择和最终训练出的模型等每个主要环节，各环节都会暴露关于私有数据集的信息。作者还给出筛选方法的差分隐私改造版本，其能有效缓解泄露，表明为数据筛选建立形式化隐私保证是有前景的方向。