设计即脆弱：个性化生成中对抗性防御的局限
Fragile by Design: On the Limits of Adversarial Defenses in Personalized Generation
AI 导读
研究者提出 AntiDB_Purify 评测框架，发现现有针对个性化生成中面部身份泄露的对抗性防御在图像滤波和对抗净化下均无法保持保护效果。论文指出这类防御有两个被忽视的局限：对抗扰动常带有明显图案或条纹等可感知伪影，容易被识别为篡改内容；扰动也很脆弱，一个简单的非学习滤波器就能将其去除，使模型恢复记忆和复现用户身份的能力。研究评估了 Anti-DreamBooth 等现有方法，结论是它们在此类净化威胁下防护失效，作者认为这会给用户带来虚假的安全感，并呼吁更不可察觉且更稳健的保护方法。