成员推理攻击：攻击者如何得知模型用了哪些训练数据

Mindgard 发布指南，说明成员推理攻击如何判断某条记录是否出现在模型训练集中，并指出微调模型和 RAG 检索库才是主要暴露面。2017 年 Shokri 等人的影子模型攻击在 Google 预测 API 上的精确率达到 93.5%；2024 年 12 月欧洲数据保护委员会通过的第 28/2024 号意见把成员推理列为模型匿名性评估方法之一。Duan 等人 2024 年在 12B 参数 Pythia 上测得多数领域 AUC 仅 0.475 至 0.582，接近随机猜测，作者归因于预训练阶段每条样本只出现一次；而 ICP-MIA 对在 HealthCareMagic 上微调的 Llama-3.2-3B-Instruct 达到 0.942 AUC。