把黑盒变白盒：数据集蒸馏造成隐私泄露
Turning Black Box into White Box: Dataset Distillation Leaks
AI 导读
研究者提出名为 Information Revelation Attack（IRA）的攻击方法，针对数据集蒸馏，能够预测所用的蒸馏算法与模型架构，并推断训练样本的成员身份、还原真实数据集中的敏感样本。作者指出，合成数据集虽被视为保护隐私，却隐式编码了蒸馏模型的权重轨迹，因而信息过量、可被攻击者利用。研究在多种先进蒸馏方法上验证了该泄露风险。