事件历史事件
针对Private Evolution的成员推断攻击
先了解这件事
AI 综述
arXiv论文提出针对Private Evolution（PE）的白盒成员推断攻击，作者称是首个针对PE底层投票算法的此类攻击。PE是一类仅推理、在差分隐私下生成合成数据的方法。攻击利用迭代过滤使合成候选偏向私有实例的特性，在图像、文本和表格模态的PE应用中取得显示私有数据泄露的实证结果。
AI 根据报道生成 · 21 天前更新
走势与进展
每小时关注度
现在 30，24 小时 0%·峰值 30（11月6日 03:00）
11月7日11月8日11月9日11月10日11月11日11月12日11月13日现在 30
相关研究
这件事的论文
- 针对 Private Evolution 的成员推断攻击
arXiv · 2026-10-21 · 深度解读
后续时间线
10月22日
- arXiv：对抗攻击、后门与投毒针对 Private Evolution 的成员推断攻击
研究者提出一种白盒成员推断攻击，作者称这是首个针对 Private Evolution（PE）框架底层投票算法的此类攻击。PE 是一类仅推理的合成数据生成方法，借助对预训练基础模型的黑盒访问生成高质量数据，并被设计为在差分隐私（DP）下产出合成数据。攻击利用迭代过滤过程使合成候选的存活与邻近程度偏向私有实例这一特性，在图像、文本和表格模态的 PE 应用中取得了表明私有数据泄露的实证结果。论文同时指出，形式化的 DP 保证并不能免除对已发布合成数据的实证隐私审计。