利用软提示在联邦提示微调中发起隐私攻击
Leveraging Soft Prompts for Privacy Attacks in Federated Prompt Tuning
AI 导读
研究者提出针对联邦提示微调的成员推断攻击 PromptMIA，恶意服务器通过注入对抗性构造的提示并利用其训练更新，推断目标数据点是否在客户端私有数据集中。论文通过安全博弈形式化这一威胁，实验显示 PromptMIA 在多个基准数据集上均取得较高攻击优势，显著优于现有 SOTA 联邦成员推断攻击，并给出攻击优势的理论下界来解释实证表现。作者还发现现有 MIA 防御对 PromptMIA 往往无效，指出需要在联邦场景中开发专门针对提示微调的防御机制。