基于代理模型集成搜索的黑盒对抗攻击方法 BASES

作者提出黑盒对抗攻击方法 BASES，通过搜索代理模型集成的损失权重，用极少查询实现高成功率攻击。方法先定义一个在固定代理模型集合上最小化加权损失的扰动生成器，再用查询搜索损失权重，由于搜索空间维度与代理模型数量相同，所需查询很少。在多个用 ImageNet 训练的图像分类器上，该方法以比最先进方法至少少 30 倍的查询取得更高成功率，定向攻击平均每张图像最少 3 次查询即可超过 90% 成功率，非定向攻击每张图像 1-2 次查询成功率超过 99%。在 Google Cloud Vision API 上，该方法以每张图像 2.9 次查询取得 91% 的非定向攻击成功率。作者还称生成的扰动可迁移性高，可用于硬标签黑盒攻击，并展示了 BASES 在隐藏目标检测器攻击上的有效性。