ACM MM 2024论文EvilEdit：一秒内对文本到图像扩散模型实施后门攻击

ACM MM 2024论文EvilEdit提出无需训练和数据的文本到图像扩散模型后门攻击方法，通过直接编辑交叉注意力层的键、值投影矩阵使触发词与后门目标对齐，在Stable Diffusion v1.5上单GPU一秒内完成注入，攻击成功率100%，无需样本，仅修改2.2%的参数，正常生成质量与原模型FID差异仅0.13。方法含受保护白名单和视觉目标攻击模块，可同时注入5个后门，后门经1500步微调后攻击成功率仍超80%。论文称白盒攻击者可将含后门模型经域名欺骗上传至公开平台，导致用户生成不安全图像或污染下游训练数据。代码已开源：https://github.com/haowang-cqu/EvilEdit。