PrivCode:当代码生成遇上差分隐私
PrivCode: When Code Generation Meets Differential Privacy
AI 导读
研究者提出 PrivCode,称其为首个专为代码数据集设计的差分隐私合成器,用于降低在私有数据上微调大语言模型的隐私泄露风险。其两阶段框架先用 DP-SGD 结合句法信息生成符合差分隐私的合成代码,再微调更大的预训练 LLM 弥补效用损失。在四个大语言模型和四个基准上的实验显示其生成代码效用更高,并能在不同隐私预算下保护敏感数据。