对语言模型进行提示词调优能确保隐私吗？

研究者提出一个针对提示词调优（prompt-tuning）的隐私攻击框架，通过利用带有用户特定信号的提示模块来推断用户的私人信息。论文先描述了一个通过提示词调优为不同用户提供定制输出的真实邮件服务流水线，随后在该目标流水线上开展了全面的隐私评估，结果显示提示词调优存在潜在隐私泄露，所提攻击有效。