事件历史事件
Mindgard发布成员推理攻击技术指南
先了解这件事
AI 综述
Mindgard发布指南，说明成员推理攻击如何判断某条记录是否出现在模型训练集中，并指出微调模型和RAG检索库是主要暴露面。文中回顾，2017年Shokri等人的影子模型攻击在Google预测API上精确率达到93.5%；2024年12月欧洲数据保护委员会通过第28/2024号意见，将成员推理列为模型匿名性评估方法之一。Duan等人2024年在12B参数Pythia上测得多数领域AUC仅0.
AI 根据报道生成 · 9 天前更新
走势与进展
每小时关注度
现在 28，24 小时 0%·峰值 28（11月6日 03:00）
11月7日11月8日11月9日11月10日11月11日现在 28
后续时间线
11月4日
- Mindgard Blog成员推理攻击：攻击者如何得知模型用了哪些训练数据
Mindgard 发布指南，说明成员推理攻击如何判断某条记录是否出现在模型训练集中，并指出微调模型和 RAG 检索库才是主要暴露面。2017 年 Shokri 等人的影子模型攻击在 Google 预测 API 上的精确率达到 93.5%；2024 年 12 月欧洲数据保护委员会通过的第 28/2024 号意见把成员推理列为模型匿名性评估方法之一。Duan 等人 2024 年在 12B 参数 Pythia 上测得多数领域 AUC 仅 0.475 至 0.582，接近随机猜测，作者归因于预训练阶段每条样本只出现一次；而 ICP-MIA 对在 HealthCareMagic 上微调的 Llama-3.2-3B-Instruct 达到 0.942 AUC。
相关讨论
关注度走势
每天新增来源
- 11月4日新增1个来源（1家媒体、0个账号）
- 11月5日新增0个来源（0家媒体、0个账号）
- 11月6日新增0个来源（0家媒体、0个账号）
- 11月7日新增0个来源（0家媒体、0个账号）
- 11月8日新增0个来源（0家媒体、0个账号）
- 11月9日新增0个来源（0家媒体、0个账号）
- 11月10日新增0个来源（0家媒体、0个账号）
- 11月11日新增0个来源（0家媒体、0个账号）
- 11月12日新增0个来源（0家媒体、0个账号）
- 11月13日新增0个来源（0家媒体、0个账号）