不可感知后门触发器在持续学习模型中诱发虚假记忆
False Memory Formation in Continual Learners Through Imperceptible Backdoor Trigger
AI 导读
攻击者可在持续学习模型训练中注入人眼不可感知的后门样本，令模型在测试时遗忘特定任务或类别，形成“虚假记忆”。该攻击针对生成式回放和基于正则化的持续学习方法，在 MNIST 变体、SVHN 和 CIFAR 10 上验证有效。后门模式可在任意时间点注入，且只需加入单个可能无关任务总训练数据的 1% 即可成功。