桥接模型以防御:基于种群的鲁棒对抗防御策略
Bridging Models to Defend: A Population-Based Strategy for Robust Adversarial Defense
作者提出基于 mode connectivity 的群体式对抗防御框架 RMC/ERMC,在 CIFAR-10 上三范数 DLR 最高 53.97%(ERMC-5,Table I)。
防御方目标是让模型在推理时抵御多种 ℓp 范数(p=1, 2, ∞)对抗扰动;攻击者用 PGD、Auto-Attack、MSD 生成扰动,预算 δ 分别为 8/255(ℓ∞)、1(ℓ2)、12(ℓ1);受害系统为图像分类神经网络。
- 对抗训练多针对单一 ℓp 范数,遇到其他范数扰动时鲁棒性下降;作者认为单点参数优化难以同时兼顾多种范数的鲁棒性。
- 提出两阶段群体式防御:Phase I 用 Robust Mode Connectivity 在两个对抗训练模型间搜索高鲁棒路径(SRMC 加速端点生成);Phase II 组合多个 RMC 单元做群体优化,ERMC 借 ℓ1+ℓ∞ 连接与模型集成提升效率。
- 在 CIFAR-10/PreResNet110 上,三类扰动下 ERMC-5 的 DLR 为 53.97%,高于 MSD Defense 的 40.14% 和 E-AT 的 44.07%(Table I);RMC 在 CIFAR-100、ImageNet-100 及 WideResNet-28-10、ViT-base 上也能找到高 DLR 路径(Fig. 5)。
- Theorem 1 的独立性假设作者注明实践中可能不成立;作者称模型选择目前优先 DLR 而非干净精度,平衡留待未来;未来方向含扩展到基础模型、结合认证鲁棒性(Section VII)。
- 被测模型
- PreResNet110WideResNet-28-10Vision Transformer-base
- 基准
- CIFAR-10CIFAR-100ImageNet-100
- 指标
- Standard AccuracyRobust Accuracy (ℓ∞/ℓ2/ℓ1-PGD)DLRUnionAA (ℓ∞/ℓ2/ℓ1)MSD
研究者提出基于鲁棒模式连接(RMC)的对抗防御框架,用两个种群学习阶段增强神经网络对多样化 ℓp 扰动的鲁棒性。第一阶段在两个预训练模型间的参数空间搜索高鲁棒连续路径,以 SRMC 模块加速端点生成;第二阶段组合 RMC 模块优化,ERMC 借助 ℓ1 与 ℓ∞ 对抗训练模型覆盖更广 p 范数。多数据集与架构上的实验显示,该方法显著提升对 ℓ∞、ℓ2、ℓ1 及混合攻击的鲁棒性。
深度解读
这篇论文试图解决什么问题?
如何让神经网络同时抵御多种 ℓp 范数对抗扰动(diversified ℓp robustness)。
核心问题:如何让一个神经网络同时对 ℓ1、ℓ2、ℓ∞ 等多种范数的对抗扰动保持鲁棒(论文称 diversified ℓp robustness,DLR)。
- 场景与重要性:神经网络用于医学影像、缺陷检测、电力系统等安全关键领域,但对人眼难以察觉的对抗扰动敏感,作者认为这引发对模型可信度的担忧。
- 现有方法不足:作者称对抗训练(AT)及其变体多针对单一 ℓp 范数设计,遇到其他范数扰动时鲁棒性下降;已有的多范数训练方法(如 [13]–[18])仍依赖单点参数优化,容易陷入局部极小或鞍点。
- 核心观察:mode connectivity 表明独立训练的模型间存在低损失路径,可快速生成大量候选模型;但作者用实验说明直接把 vanilla mode connectivity 套在两个对抗训练模型上得不到高 DLR(Fig. 3),需要把对抗鲁棒性嵌入路径搜索。
- 论文提出:一个两阶段群体式(population-based)防御框架——Phase I 的 Robust Mode Connectivity(RMC,含加速模块 SRMC)、Phase II 的 RMC-based optimization,以及提升效率的 ERMC(含模型集成)。
- 威胁模型:
- 攻击者目标:在推理时用 ℓp 范数有界扰动使分类模型出错,实验聚焦 p = 1, 2, ∞。
- 攻击者知识/能力:用 PGD、Auto-Attack(AA)、MSD 生成扰动;扰动预算 δ = 8/255(ℓ∞)、1(ℓ2)、12(ℓ1)。
- 受害系统:图像分类神经网络(PreResNet110、WideResNet-28-10、Vision Transformer-base)。
- 防御方设定:防御在训练阶段进行,可用多个对抗训练模型做群体优化。
有哪些相关研究?
相关工作分四组:对抗攻击、对抗训练、多范数防御、群体式神经网络学习。
对抗攻击
- FGSM [6] 与 PGD [8]:利用目标模型局部梯度构造攻击;output diversified sampling [25] 改进初始化。论文称这些方法因超参调节不当和梯度遮蔽可能给出不准确的鲁棒性度量。
- Auto Attack [26]:组合四种攻击并调整步长;MSD [16]:在每步投影最速下降中纳入多种扰动模型。本文用 PGD、AA、MSD 做评测攻击。
对抗训练类防御
- AT [8]:开创 min-max 优化的对抗训练;后续包括 TRADES [10](鲁棒性-精度权衡)、动态对抗训练 [27]、半监督鲁棒训练 [28]。
- 快速 AT:[11]、[12]、[29]、[30] 提出更快的近似 AT 算法。论文指出这些方法的共同问题是训练时只针对单一 ℓp 范数,遇到其他扰动类型时鲁棒性大幅下降。
多范数(diversified ℓp)防御
- [14]:论文称它是唯一提供可证明防御的工作;[15]:通过 withheld 特定输入提升对更强攻击的抵抗。
- [13]:内部损失取各扰动类型最大损失或平均损失;E-AT [17]:用微调策略;MSD Defense [16]:每步纳入多种扰动模型。论文指出这些工作仍优化单组参数,多范数鲁棒性的缺陷未解决,本文从群体式优化角度切入。
群体式神经网络学习
- [31]:并行训练多个模型实例并选优繁殖;[32]:进化随机梯度下降。论文称这类方法学习速度慢且忽视对抗鲁棒性。
- [33]:模仿免疫系统在推理阶段提升鲁棒性;mode connectivity [23] 可视为更快的群体式学习;[34] 分析了后门/错误注入/单一扰动下的 mode connectivity,本文称在其基础上扩展到多种 ℓp 扰动的鲁棒群体优化。
基线与基准:对比基线为 ℓ∞-AT [8]、RMC-RI(两个随机初始化模型上的 RMC)、E-AT [17]、MSD Defense [16];数据集为 CIFAR-10、CIFAR-100、ImageNet-100。
本文定位:作者称本文把其 workshop 论文 [1](Phase I 路径发现)和 Deep Adversarial Defense [2](ERMC 初步验证)统一扩展为完整两阶段框架,并补充 SRMC、理论保证和更多实验。
论文如何解决这个问题?
两阶段群体式框架:RMC 搜索鲁棒路径,Phase II 组合 RMC 单元选优,ERMC 提效。
整体思路:把 mode connectivity 与多范数对抗训练结合,在两个(或多个)对抗训练模型之间搜索一条每个点都是高鲁棒模型的连续路径,再以 RMC 为基本单元做群体式优化选优。框架名为 Robust Mode Connectivity (RMC)-oriented adversarial defense。
问题设定与度量
- 多样化鲁棒性(DLR):定义为模型在最差一类扰动下的鲁棒精度,即 mini∈[S] (∑(x′,y)∈D̂i 1f(x′,θ)=y)/(|D̂i|),其中 D̂i 是由第 i 种 ℓp 扰动生成的对抗数据;论文备注也可用 worst-case sample-wise 定义,本质度量同一量。
- 扰动设定:实验取 ℓ∞、ℓ2、ℓ1 范数,δ 分别为 8/255、1、12。
Phase I:Robust Mode Connectivity(RMC)
- 动机实验:直接对 ℓ∞-AT 与 ℓ2-AT 模型(PreResNet110,各训 150 epoch)施加 vanilla mode connectivity(再训 50 epoch),路径上损失高、两类攻击下鲁棒精度低(Fig. 3),作者据此认为需要把对抗鲁棒性嵌入路径搜索。
- RMC 目标:在 mode connectivity 目标中加入内层最大化,minθ Et∼ U(0,1) E(x,y)∼ D0 ∑i∈ I maxDisti(x′,x)≤δi L(ϕ(t;θ);(x′,y));曲线固定为二次 Bezier 曲线 ϕ(t; θ) = (1−t)²θ₁ + 2t(1−t)θ + t²θ₂。
- 求解器:内层用 Multi Steepest Descent(MSD),每步同时考虑所有扰动类型(Algorithm 1);作者称因扰动类型数 I 为常数(2 或 3),复杂度阶与传统 AT 相同。
- 理论动机(Theorem 1):在每个数据点-扰动类型对的峰值 epoch 独立同分布等假设下,给出达到至少一次"对齐"所需模型数 K 的公式;作者注明独立性假设实践中可能不成立,目的只是说明群体方法相对单模型的固有优势。
- SRMC 加速模块:先训一个 ℓp-AT 模型 ϕ(0; θ),再用另一种扰动 Distj 微调少数 epoch 得到另一端点 ϕ(1; θ),避免从头训练两个端点。
Phase II:RMC-based optimization
- 流程(Algorithm 2,三类扰动示例):1) 分别用 ℓ1、ℓ2、ℓ∞-AT 各训 T epoch 得三个模型;2) 用 RMC 连接 ℓ2-AT 与 ℓ1-AT、ℓ∞-AT 与 ℓ1-AT 模型,得两条轨迹;3) 在每条轨迹的最优区域随机取点;4) 从这两点分别用 ℓ∞-AT、ℓ2-AT 训 T epoch 得新端点;5) 再用 RMC(I 含三种扰动)连接,取 DLR 最高点 topt 的模型。
- 设计理由:作者称在最高 DLR 点附近随机取点是为增加多样性;不同模型导出的参数曲线可并行计算,并行时执行时间等于生成一条曲线的时间。
ERMC 与模型集成
- 理论依据:引用 [14] 的定理——affine 分类器(含 ReLU CNN)若对 ℓ1 和 ℓ∞ 扰动鲁棒,则对 1 ≤ p ≤ ∞ 的 ℓp 扰动有满意鲁棒性(论文引为 Theorem 2)。
- ERMC(Algorithm 3):端点 ϕ(0; θ) 用 ℓ∞-AT 训练,复制后用 ℓ1-AT 微调 10 epoch 得 ϕ(1; θ),再优化同时含 ℓ1、ℓ∞ 扰动的 RMC 目标;作者称 ERMC 只需做一次连接,故高效。
- ERMC-n 集成:在路径上取满足阈值 α∞(ℓ∞ 鲁棒精度)和 α1(ℓ1 鲁棒精度)的区间 [a, b],按间隔 t = a + (b−a)/(n−1)·i 选 n 个模型,对最终层输出做平均;多个不相邻合格区间时按区间长度比例分配名额。
论文做了哪些实验?
在 CIFAR-10/100、ImageNet-100 和三种架构上评测,三类扰动下 ERMC-5 的 DLR 达 53.97%。
实验设置
- 被测对象:防御方法装在 PreResNet110、WideResNet-28-10、Vision Transformer-base 三种架构上;默认配置为 CIFAR-10 + PreResNet110。
- 数据集:CIFAR-10、CIFAR-100、ImageNet-100。
- 基线:标准 ℓ∞-AT [8]、RMC-RI(两个随机初始化模型的 RMC)、E-AT [17]、MSD Defense [16]。
- 攻击与扰动预算:ℓ∞/ℓ2/ℓ1-PGD、Auto-Attack(AA)、MSD 攻击;δ = 8/255(ℓ∞)、1(ℓ2)、12(ℓ1)。
- 指标:干净精度(Standard Accuracy)、各 PGD 攻击下鲁棒精度、Union(三种 PGD 下 worst-case sample-wise 精度)、AA(ℓ∞/ℓ2/ℓ1)、MSD 攻击精度、DLR(最差扰动类型下的鲁棒精度)。
- 训练量与硬件:端点模型训 50/150 epoch,路径额外训 50 epoch;Phase II 实验训练 epoch 均为 200(允许并行);两块 NVIDIA RTX A100 GPU。论文未报告重复次数和方差。
主结果
Table I(CIFAR-10 + PreResNet110;"两类扰动"行的 DLR 只在 ℓ∞/ℓ2-PGD 上取,"三类扰动"行在三种 PGD 上取):
表格较宽,可左右滑动
方法 Standard ℓ∞-PGD ℓ2-PGD ℓ1-PGD DLR Union MSD ℓ∞-AT 85.00% 49.03% 29.66% 16.61% / 21.85% 15.27% MSD-Defense(两类) 81.61% 48.57% 45.92% 35.64% 45.92% 34.37% 45.72% RMC-RI(两类) 63.08% 37.4% 38.44% 30.47% 30.47% 29.22% 36.9% RMC(两类) 80.90% 48.19% 48.63% 38.05% 48.19% 36.3% 46.52% RMC-based opt(两类) 81.36% 48.89% 49.03% 38.83% 48.89% 36.86% 47.18% MSD Defense(三类) 81.35% 40.14% 48.58% 47.50% 40.14% 38.35% 38.20% E-AT(三类) 79.3% 44.07% 49.12% 49.82% 44.07% 41.08% 42.67% RMC-based opt(三类) 81.76% 46.21% 51.86% 46.23% 46.21% 41.47% 44.75% (Table I 另有 5-model ensemble、SRMC 变体、ERMC-1/3/5 行,见下。)
- 作者称:两类扰动下 RMC 的 DLR 比 MSD-Defense 高 2.27%、比 RMC-RI 高 10.79%;三类扰动下 RMC-based optimization 的 DLR 比 MSD Defense 高 6.07%、比 E-AT 高 2.14%,Union/AA/MSD 指标也更高。
- 作者指出 RMC-based optimization 存在干净精度与 DLR 的权衡:其干净精度比 ℓ∞-AT 低 3.24%,但降幅小于 MSD Defense 和 E-AT;当前模型选择优先 DLR。
- 作者称带 SRMC 模块的 RMC-based optimization(三类)DLR 为 46.10%,与不带 SRMC 的版本相近(略低),AA 和 Union 略高(Table I)。
ERMC 与集成
- ERMC-n(Table I,三类扰动):ERMC-1 的 DLR 为 46.54%,作者称其与 RMC-based optimization 相近;ERMC-3 的 DLR 为 48.49%;ERMC-5 的 DLR 为 53.97%、Union 51.41%、MSD 49.78%,作者称 n 增大性能提升,ERMC-5 在 DLR、Union、MSD 上优于所有其他方法。
- 5-model ensemble(Table I):从 Fig. 9 曲线选 5 个模型集成(阈值 α∞ = 37%、α1 = 43%),DLR 51.05%、Union 49.39%,作者称集成可进一步提升 RMC-based optimization。
- ERMC 路径形态(Fig. 10):在 CIFAR-10、CIFAR-100、WideResNet-28-10、ViT-base 上连接 ℓ∞ 与 ℓ1 模型均得到高鲁棒路径;作者观察到端点模型对各自训练的扰动类型鲁棒、对另一种相对脆弱。
路径搜索与效率
- RMC 路径(Fig. 4):ℓ∞-AT 与 ℓ2-AT 端点间用 MSD 内层求解,50/100/150 epoch 的路径都含高 DLR 点,panel (a) 中最高 DLR 为 48.19%;epoch 增多路径更平滑,三个 epoch 设置的最优点 DLR 相近,作者据此认为选最优模型只需少量 epoch。
- 跨数据集/架构(Fig. 5):RMC 在 CIFAR-100、ImageNet-100 及 WideResNet-28-10、ViT-base 上均找到含高 DLR 点的路径(两类扰动)。
- SRMC 效率(Section VI-C):CIFAR-10 + PreResNet110 单 GPU 上,RMC 全流程(两端点各 150 epoch + 曲线 50 epoch)平均 2750 分钟,SRMC 为 1780 分钟;ViT 单 GPU 上 RMC 平均 5785 分钟、SRMC 3592 分钟。
其他消融与分析
- 两类扰动、单个中间最优点(t ∈ [0.77, 0.83] 取样):最优点 DLR 48.8%(t = 0.72,Fig. 7)。
- 两类扰动、两个中间最优点(t ∈ [0.27, 0.33] 与 [0.77, 0.83]):最优 DLR 48.89%(t = 0.71,Fig. 8);作者称 t ≈ 0.5 处的精度下降源于 RMC 只用 50 epoch。
- 三类扰动 Phase II(T = 50,RMC 额外 50 epoch):最优点 DLR 46.21%(t = 0.93,Fig. 9)。
- 例外:Table I 中 ERMC-3 的 AA-ℓ∞ 为 42.88%(其 AA 最低项),低于 ERMC-1 的 43.97%;作者未解释。
有什么可以进一步探索的点?
作者提到理论假设、精度-鲁棒权衡等局限,未来方向含基础模型与认证鲁棒性。
作者指出的局限与后续方向
- 理论假设:Theorem 1 的独立性假设"may not hold in practice",作者称目的仅是展示群体方法相对单模型解的固有优势(Section IV-A3)。
- 精度-鲁棒权衡:作者称当前 RMC 的模型选择优先 DLR 而非干净精度,未来实现中可调整以取得更好平衡(Section VI-F 观察 (4))。
- 未来方向:作者称未来可将 RMC 扩展到大规模基础模型、与认证鲁棒性(certified robustness)技术结合、探索医疗和电力系统等安全关键领域应用(Section VII)。
实验覆盖范围
- 被测架构为 PreResNet110、WideResNet-28-10、Vision Transformer-base 共 3 种;数据集为 CIFAR-10、CIFAR-100、ImageNet-100 共 3 个(Section VI-A)。
- 定量对比表(Table I)只在 CIFAR-10 + PreResNet110 上给出;CIFAR-100、ImageNet-100 和其他架构只以路径图(Fig. 5、Fig. 10)展示。
- 扰动类型为 ℓ∞、ℓ2、ℓ1,δ 分别为 8/255、1、12;评测攻击为 PGD、Auto-Attack、MSD(Section VI-A)。
- 效率数据为单 GPU 分钟数:PreResNet110 上 RMC 2750 分钟 vs SRMC 1780 分钟,ViT 上 5785 vs 3592 分钟(Section VI-C)。
- 论文未报告实验重复次数、方差或统计显著性检验;Theorem 1 给出群体规模公式但未做对应的实证验证。
总结一下论文的主要内容
群体式 mode connectivity 防御框架,三范数 DLR 最高 53.97%(ERMC-5,Table I)。
一篇对抗鲁棒性防御论文,针对单一 ℓp 范数对抗训练无法兼顾多种扰动类型的问题,提出基于群体式优化的 RMC-oriented adversarial defense 框架。
- 方法:Phase I 的 RMC 把对抗训练内层最大化嵌入 mode connectivity,在两个不同范数 AT 模型间搜索高鲁棒路径(MSD 求解,Bezier 曲线),SRMC 模块用微调代替从头训练第二个端点以加速;Phase II 把 RMC 作为基本单元做多代群体优化选优;ERMC 依据 [14] 的定理只连接 ℓ∞ 与 ℓ1 模型一次,并用 ERMC-n 集成路径上的 n 个模型。
- 关键结果(CIFAR-10 + PreResNet110,Table I):两类扰动下 RMC 的 DLR 为 48.19%,高于 MSD-Defense 的 45.92%;三类扰动下 RMC-based optimization 的 DLR 为 46.21%,高于 MSD Defense 的 40.14% 和 E-AT 的 44.07%;ERMC-5 的 DLR 达 53.97%、Union 51.41%,作者称其在 DLR、Union、MSD 上优于所有对比方法。
- 泛化与效率:RMC 在 CIFAR-100、ImageNet-100 及 WideResNet-28-10、ViT-base 上均找到高 DLR 路径(Fig. 5、Fig. 10);SRMC 将 PreResNet110 上的训练时间从 2750 分钟降至 1780 分钟(单 GPU)。
- 作者的结论:作者称该框架把群体式 mode connectivity 确立为一种可推广的对抗防御范式,同时承认干净精度与 DLR 存在权衡(RMC-based optimization 干净精度比 ℓ∞-AT 低 3.24%),未来计划扩展到基础模型并结合认证鲁棒性。