面向对抗扰动的低秩自适应（LoRA）
Low Rank Adaptation for Adversarial Perturbation
AI 导读
研究者从理论和实验上表明，对抗扰动具有内在的低秩结构，并据此提出更高效的黑盒对抗攻击方法。论文覆盖多种攻击方法、模型架构和数据集进行验证。方法分两步，先借助参考模型和辅助数据把梯度投影到低维子空间，再将黑盒攻击的扰动搜索限制在该子空间内，以缓解黑盒攻击查询开销过大的问题。在多种攻击方法、基准模型、数据集和威胁模型上的评估显示，低秩对抗攻击相比传统方法取得显著且一致的改进。