基于触发词中和反事实评分的代码模型数据高效后门攻击
Data-Efficient Backdoor Attacks on Code Models via Trigger-Neutralized Counterfactual Scoring
AI 导读
研究者提出触发词中和反事实评分（TNCS）方法，让针对预训练代码模型的后门攻击在极低投毒比例下仍保持高于基线的成功率。由于投毒样本越少在防御面前留下的痕迹越小，选择投毒哪些样本十分关键，而现有数据高效的样本选择方法只针对图像分类，缺乏面向自回归生成的评分机制，也未在代码上研究过。TNCS 通过比较评分模型在触发输入与触发词被中和的反事实输入上的输出，分离触发词对目标行为的贡献，同时覆盖分类与生成任务。在三个 CodeXGLUE 任务和五类触发词家族上，TNCS 在极低投毒比例下攻击成功率高于基线，不降低干净任务表现，且投毒比例越低优势越明显。作者称其为唯一在所有触发词家族上都有效的方法，筛选出的投毒样本集还可迁移到不匹配的受害模型。