Pick Your Poison: Learning to Select Poisoning Sets for Stronger LLM Backdoor Attacks
Pick Your Poison: Learning to Select Poison Sets for Stronger LLM Backdoor Attacks
AI summary
研究者提出 SAILS（Set-level Audit-Informed Iterative Learned Selection）方法，通过学习选择投毒样本集合来增强 LLM 后门攻击，并指出常见评测中随机抽取投毒样本会严重低估最坏情况下的脆弱性。在三个 LLaMA-3-8B 后门设置中，固定模型、干净数据和投毒数量后，仅更换投毒集攻击成功率就在 3% 到 80% 之间变化。SAILS 将投毒选择形式化为 oracle 预算下的集合优化，从几百次微调与评估运行中学习集合打分器，对数百万候选集排序后只审计少量入围集合。相比最强的 influence 基线，SAILS 将留出集上的攻击成功率平均提高 30 个百分点，方法可从小规模微调迁移到全量微调，并扩展到代码生成、智能体和 API-only 后门。