Pop Quiz Attack：针对大语言模型的黑盒成员推断攻击
Pop Quiz Attack: Black-box Membership Inference Attacks Against Large Language Models
AI 导读
研究者提出 Pop Quiz Attack，一种针对大语言模型的黑盒成员推断攻击，把目标数据改写成测验式选择题，根据模型的回答推断样本是否属于训练数据。在 GPT-3.5、GPT-4o、LLaMA2-7b、LLaMA2-13b、Mistral-7b 和 Vicuna-7b 六个模型与四个数据集上，该方法平均 ROC-AUC 达到 0.873，比现有方法高出 20.6%。作者分析了查询复杂度、数据类型、数据结构和训练设置对攻击效果的影响，并评估了基于指令、过滤和差分隐私的防御，这些防御能降低攻击效果但无法消除风险；作者称结果凸显了现代大语言模型持续存在的隐私漏洞。