Osmosis Distillation：用最少样本实现模型劫持

研究者提出 Osmosis Distillation（OD）攻击：在数据集蒸馏生成的合成数据中掺入少量投毒样本，即可在迁移学习中劫持深度学习模型。多数据集评测显示，该攻击在隐藏任务上攻击成功率高，同时保持原任务模型效用，蒸馏出的 osmosis 集可跨多种模型架构生效。作者提醒应警惕在迁移学习中使用第三方合成数据集。