具有理论基础的低成本硬标签对抗攻击
Low-Cost Hard-Label Adversarial Attack with Theoretical Foundations
AI 导读
研究者提出一种带理论保证的低成本硬标签黑盒对抗攻击框架，实验显示其在成功率和效率上均优于现有 SOTA 硬标签攻击，低查询预算下优势尤其明显。硬标签攻击仅依赖模型 top-1 预测；论文建立统一理论框架，将现有 sign-flipping 硬标签攻击解释为对真实梯度符号的近似，并证明其零查询初始化与真实梯度符号的余弦相似度高于随机基线，Pattern-Driven Optimization（PDO）算法的查询复杂度显著低于基线搜索方法。实验覆盖 CIFAR-10、ImageNet、ObjectNet 上的标准与对抗训练模型、商业 API 和 CLIP 模型，并在 ImageNet-C、PathMNIST 生物医学图像及分割等密集预测任务上保持泛化。该方法还能绕过有状态防御 Blacklight，检测率为 0%。