跳到正文
原文

BadGCL:面向图持续学习系统的持久化后门攻击

BadGCL: Towards Persistent Backdoor Attack on Graph Continual Learning Systems

arXiv:其他 AI 安全论文· arXiv:2611.19656· Dong Li, Yufei Han, Xintao Wu, Xujiang Zhao, Wei Cheng, Chen ZhaoBaylor University; INRIA; University of Arkansas; Meta; NEC Laboratories America本站收录· 2 天前· 原文发表攻击· 扫描记录里的位置 →

论文速读

攻击

据论文 PDF 整理(AI 生成),以原文为准

作者提出 BadGCL,在图持续学习(GCL)首任务一次性投毒,作者称在 CoraFull/PDGNNs 上最终 ASR 达 99.46%(task-IL)。

威胁模型攻击者在干预阶段(t < t')对受害系统有 white-box 访问(GNN 架构、CL 算法、部署协议),但不知道未来任务分布和标签空间;只能在第一个任务 T1 干预,可任意操纵训练过程并对 D1tr 投毒至多 ε 比例(ε ≪ 1),之后训练完全良性;目标是触发样本在整个 CL 轨迹上被定向误分类、保持干净效用、并在后续良性更新下保持后门持久。

问题
图持续学习(GCL)系统中,现有图后门攻击会随任务更新失效,给人持续更新天然削弱后门的印象。作者认为 GCL 的知识保留机制在被利用时反而可能长期保留早期注入的后门。
方法
提出 BadGCL:仅在第一个任务干预,先训练干净参考模型,再用梯度互信息(InfoNCE 实现)让投毒梯度与干净任务信号耦合,并用传播一致性目标稳定触发器在消息传递中的效果,辅以结构正则化,最后一次性投毒微调后退出。
实验与结果
在 4 个 GCL 基准、task-IL 与 class-IL 协议、4 种受害系统上,BadGCL 最终 ASR 多高于基线,如 CoraFull/PDGNNs task-IL 达 99.46%、class-IL 达 98.74%(Table 1、2);对 5 种防御中 A2GBD 最强,class-IL 下 ASR 降至 89.42%(Table 4a)。
局限与可以继续做的
论文未专门讨论局限。实验覆盖:受害系统为 PDGNNs、CaT-CGL、SSRM、TPP 共 4 个;防御评测仅在 CoraFull+PDGNNs 上做;任务顺序与任务重访实验分别在 Reddit 和 OGB-Arxiv 单一数据集上进行;CBACL 与 BTB 因威胁模型不符被排除。
实验设置PDGNNs、CaT-CGL 等 · CoraFull、OGB-Arxiv 等 · AA、AF 等
被测模型
PDGNNsCaT-CGLSSRMTPP
基准
CoraFullOGB-ArxivRedditOGB-Products
指标
AAAFASRBF
AI 导读Dong Li 等研究者提出 BadGCL,一个针对图持续学习(GCL)系统的模型无关持久化后门攻击框架。论文指出,GCL 的知识保留机制在投毒更新与干净任务信号兼容时也会保留早期注入的后门,而嵌入图神经网络(GNN)消息传递路径的结构触发器会在任务间引起稳定的表示偏移,放大这一风险。方法上,BadGCL 在严格的早期干预设定下,用梯度互信息目标学习拓扑感知的结构触发器,将投毒梯度与干净任务优化信号耦合,并以传播一致性目标稳定触发器经消息传递产生的效果;理论分析显示梯度兼容性与传播稳定性共同支持后门在良性持续更新下长期存留。在 task-IL 与 class-IL 协议、四个 GCL 基准和多种受害系统上的实验表明,BadGCL 在干净效用下降有限的情况下保持持久攻击效果,显著优于图后门与持续学习后门基线,并对代表性防御保持鲁棒。

Dong Li 等研究者提出 BadGCL,一个针对图持续学习(GCL)系统的模型无关持久化后门攻击框架。论文指出,GCL 的知识保留机制在投毒更新与干净任务信号兼容时也会保留早期注入的后门,而嵌入图神经网络(GNN)消息传递路径的结构触发器会在任务间引起稳定的表示偏移,放大这一风险。方法上,BadGCL 在严格的早期干预设定下,用梯度互信息目标学习拓扑感知的结构触发器,将投毒梯度与干净任务优化信号耦合,并以传播一致性目标稳定触发器经消息传递产生的效果;理论分析显示梯度兼容性与传播稳定性共同支持后门在良性持续更新下长期存留。在 task-IL 与 class-IL 协议、四个 GCL 基准和多种受害系统上的实验表明,BadGCL 在干净效用下降有限的情况下保持持久攻击效果,显著优于图后门与持续学习后门基线,并对代表性防御保持鲁棒。

深度解读

6个问题,点开问题读完整回答

  1. 这篇论文试图解决什么问题?

    作者称 GCL 的知识保留机制可被利用来长期保留早期注入的图后门,并提出持久后门攻击 BadGCL。

    核心问题:图持续学习(GCL)系统中,后门攻击能否在攻击者只干预第一个任务后,于后续良性更新中长期存活。

    • 场景与动机:作者指出,传统图后门攻击在模型跨任务持续更新后效果衰减(Figure 1 显示 8 种图后门方法在 CoraFull 35 个任务上 ASR 逐步下降),造成"持续更新天然削弱后门"的印象。
    • 现有方法的不足:作者认为现有图后门有两个瓶颈——触发器设计缺乏对持久性的显式优化,触发器-目标关联依赖易被后续更新破坏的瞬时相关性;且增强攻击效果往往干扰干净任务保留,难以保持干净效用。
    • 核心观察(Observation 1,持久性悖论):作者称,当投毒梯度与 GCL 保留的干净任务信号兼容、且触发器效果在消息传递下稳定时,后续抗遗忘更新会连同保留恶意关联,后门可"搭便车"(free ride)于抗遗忘机制。
    • 论文提出:BadGCL,一个 model-agnostic 的持久后门攻击框架,通过梯度互信息目标、传播一致性目标和结构正则化学习拓扑感知的结构触发器;并给出理论分析(Theorem 1、2)说明梯度兼容性与传播稳定性共同支持长期持久。
    • 威胁模型(第 3.2 节):
      • 目标:触发图输入在整个 CL 轨迹上被定向误分类到目标标签 y★;保持干净输入效用;后门效果在后续良性更新下持久。
      • 知识:干预阶段(t < t')对受害系统 white-box 访问(GNN 架构、CL 算法、部署协议);不知道未来任务分布与标签空间。
      • 能力:只能在第一个任务 T1 干预,可任意操纵训练过程(损失函数、优化、参数更新),对 D1tr 投毒至多 ε 比例(ε ≪ 1);之后训练完全良性。
      • 受害系统:执行节点分类的 GCL 系统,在任务序列上顺序训练 GNN。
  2. 有哪些相关研究?

    相关工作分图后门攻击与持续学习后门两类,作者称二者都未解决 GCL 下早期一次性投毒的持久性问题。

    图后门攻击

    • Sub-BD [42]、NFTA [1]:固定模式注入(子图触发器、特征触发器)的代表。
    • GTA [33]:基于优化的设计,生成自适应、针对输入定制的触发器;UGBA [3] 与 SPEAR [4] 通过不可察觉性和结构保持约束提升隐蔽性。
    • CGBA [35](clean-label 攻击)、GCBA [39](自监督图对比学习后门)、Motif-Backdoor [47](将攻击效果与注入 motif 的统计显著性关联):更受限设定下的图后门。论文指出这些攻击大多假设静态训练,忽视顺序更新下的后门遗忘,在 GCL 中容易被覆盖。

    持续学习上的后门攻击

    • Guo et al. [9]:提出 Blind Task Backdoor(BTB,操纵训练损失信号)与 Latent Task Backdoor(LTB,将恶意知识锚定在潜在表示空间实现一次性持久)。
    • Attack-on-Prompt [22]:研究基于 prompt 的 CL 后门;论文指出其依赖 prompt-tuning 机制,与 GNN 的消息传递范式不兼容。
    • CBACL [6]:在更宽松的威胁模型(允许跨任务重复干预)下提升攻击灵活性。论文指出这些方法主要针对欧氏数据,在 GCL 严格的早期投毒设定下难以保持持久。

    基线与基准:基线包括 8 个静态图后门攻击(Sub-BD、GTA、Motif-BD、UGBA、NFTA、GCBA、CGBA、SPEAR)和 2 个非图模态的 CL 后门攻击(LTB、P-Trojan [2],作者将其骨干替换为 GNN 编码器后适配到图学习);所有基线与 BadGCL 在相同威胁模型(首任务干预、预算 ε)下评测。基准为 CoraFull、OGB-Arxiv、Reddit、OGB-Products 四个 GCL 数据集。附录 C.3 说明 CBACL 与 BTB 因假设攻击者可跨任务持续干预、与本论文威胁模型不兼容而被排除。

    定位:作者称 BadGCL 面向持续图设定,让投毒梯度与干净任务优化动态耦合并约束触发器的图传播行为,使后门在 replay 与稳定性驱动的 GCL 下无需再次干预即可持久;作者自称这是"the first effort"暴露 GCL 系统中的持久后门威胁。

  3. 论文如何解决这个问题?

    BadGCL 在首任务三阶段干预:干净预训练、用梯度互信息与传播一致性优化结构触发器、一次性投毒微调后退出。

    整体思路:在攻击者唯一的干预窗口(任务 T1)内,学习一个既与 GCL 保留的干净任务知识优化兼容、又在 GNN 消息传递下传播稳定的结构触发器,使后续抗遗忘更新连同保留后门。框架名 BadGCL,model-agnostic。

    问题设定

    • 受害系统:GCL 节点分类,任务序列 {T_t},K 层 GNN;两种协议——Task-IL(测试时给任务标识,候选标签集 Ω = Y_t)与 Class-IL(无任务标识,Ω = 累计标签空间,作者称更难)。
    • Problem 1 将持久后门形式化为早期约束优化:minGΔ, θt′ Lcl + λ Lbd,约束为对所有 t > t',ASR 下降不超过 δ_attack、干净效用下降不超过 δ_cl;本文实例化 t' = 1,只干预第一个任务。

    可学习的拓扑感知触发器(5.1 节)

    • 触发器为 m 节点小图 G_Δ = (X_Δ, A_Δ),m 远小于目标图,节点特征 X_Δ 可学习;拓扑用边 logit A_Δ 参数化,以高边概率初始化,经 sigmoid 作软邻接,部署时以阈值 0.5 离散化。
    • 结构正则项 Rstr(AΔ) = (1/m2)|1⊤ σ(AΔ) 1 − ρ|2 控制触发器密度接近期望密度 ρ。
    • 投毒数据:从 D1tr 抽 ε 比例锚点集 A,注入触发器并改标为 y★,与其余干净数据组成 D_poison。

    三阶段投毒流程(5.2 节)

    1. 干净预训练:在 D1tr 上训练干净参考模型 θ_cl,并计算干净任务优化信号 g_cl(D1tr 上的梯度)。
    2. 触发器优化(冻结模型参数):目标为 L_bd + λ_MI·L_MI + λ_prop·L_prop + λ_s·R_str。其中 L_MI 是梯度互信息的 InfoNCE 下界(余弦相似度、温度 τ、R 个负干净梯度),作者称互信息刻画投毒梯度与干净梯度的联合统计依赖,优于逐点余弦/欧氏距离;L_prop 约束触发器引起的表示偏移 r_Δ^(k)(v) 在 K 层传播深度间方向与幅度一致(γ 控制幅度项)。
    3. 投毒微调:固定触发器,从 θ_cl 出发最小化 L_cl(D1tr \ A) + λ_bd·L_bd 得到投毒检查点 θ_1★;微调保持简短以避免过拟合锚点。之后攻击者永久退出。

    理论分析(5.3 节与附录 A)

    • 定义目标任务损失差距 Φ(θ) = L_bd(θ) − L_cl(θ)。Theorem 1:若 L_MI ≤ ε_MI < log 2 且非退化条件成立,则梯度余弦对齐 κ > 0,Phase 3 的更新方向对 L_cl 与 L_bd 同为下降方向,且 Φ 以速率 Ψ(κ, λ_bd) 下降。
    • Theorem 2(Free-Rider Persistence):在 Lipschitz 光滑、传播稳定(L_prop ≤ ε_prop)、结构稀疏(密度 ρ)与有效抗遗忘(Assumption 5)假设下,t−1 次良性更新后 L_bd(θ_t) ≤ L_cl(θ_1★) + δ_cl + 若干由攻击者在 Phase 2 最小化的项(Φ(θ_1★)、ε_prop、m√ρ 等)。作者据此称:保留干净任务知识的更新会连同保留后门。
    • Proposition 1(附录 A.4):InfoNCE 损失给出互信息下界 I ≥ log(R+1) − L_MI;附录备注称 R = 8 在实践中足够。
  4. 论文做了哪些实验?

    4 基准、2 协议、4 受害系统上最终 ASR 多超 95%,TPP 上 100%;最强防御 A2GBD 在 class-IL 下把 ASR 降到 89.42%。

    实验设置

    • 受害系统(target):replay 类 PDGNNs [40]、CaT-CGL [19],正则化类 SSRM [26],参数隔离类 TPP [23],共 4 个 GCL 系统。
    • 数据集:CoraFull(35 任务/70 类)、OGB-Arxiv(20 任务/40 类)、Reddit(20 任务/40 类)、OGB-Products(23 任务/47 类),每任务 2 类;攻击者只在第一个任务投毒。
    • 基线:8 个静态图后门(Sub-BD、GTA、Motif-BD、UGBA、NFTA、GCBA、CGBA、SPEAR)+ 2 个适配到图的 CL 后门(LTB、P-Trojan),同一威胁模型。
    • 指标:AA(干净效用,↑)、AF(干净遗忘,↓)、ASR(触发测试样本被判为目标类的比例,↑)、BF = ASR_1 − ASR_i(后门遗忘,↓);均取最后一个任务后的最终值。
    • 重复次数:所有数值为 5 次独立运行的平均值(6.1 节)。投毒预算 ε、触发器大小 m 等具体取值论文正文未写明(Algorithm 1 列为输入参数)。

    主结果

    据 Table 1(task-IL,CoraFull/Reddit,最终值,%):

    表格较宽,可左右滑动

    方法PDGNNs CoraFull AA/ASR/BFPDGNNs Reddit AA/ASR/BFCaT-CGL Reddit AA/ASR/BFSSRM CoraFull AA/ASR/BF
    w/o poisoning92.76 / – / –97.92 / – / –96.91 / – / –87.75 / – / –
    GCBA(最强静态基线之一)86.39 / 55.12 / 44.8886.54 / 67.85 / 32.1584.92 / 68.73 / 31.2779.54 / 54.07 / 45.93
    LTB81.64 / 83.15 / 16.8589.86 / 82.12 / 17.8888.42 / 83.67 / 16.3379.84 / 77.91 / 22.09
    P-Trojan85.27 / 89.36 / 10.6492.04 / 88.93 / 11.0790.61 / 90.37 / 9.6383.52 / 84.65 / 15.35
    BadGCL92.54 / 99.46 / 0.5497.76 / 98.17 / 1.8394.52 / 99.86 / 0.1486.58 / 97.91 / 2.09

    class-IL(Table 2,PDGNNs):BadGCL 在 CoraFull 上 AA 77.93 / ASR 98.74 / BF 1.08,Reddit 上 95.12 / 95.48 / 3.93,OGB-Arxiv 上 52.08 / 95.65 / 4.11;同期静态基线 ASR 仅约 3–6%,P-Trojan 为 67.86%(CoraFull)。附录 Table 5、6 报告 OGB-Arxiv/OGB-Products 与其余受害系统结果,趋势一致。

    • 作者称 BadGCL 在两种协议与各受害系统上取得最强后门持久性,AA 接近良性参考;静态图后门 ASR 低且 BF 大,class-IL 下更明显。
    • 作者称 LTB、P-Trojan 优于静态攻击但未建模图传播,持久性与干净效用仍落后于 BadGCL。
    • 附录 C.4:参数隔离类受害系统 TPP 上,BadGCL 在所有数据集与两种协议下 ASR 为 100.0%、BF 为 0.00%;作者解释称 TPP 用隔离的 prompt/参数保留任务知识,后续任务不会覆盖首任务后门,故单独报告。

    性能动态(RQ2,Figure 2)

    • 在 Reddit + PDGNNs 上追踪 AA 与 ASR 随任务的演化:作者称多数基线早期有效、随任务推进衰减,class-IL 下崩塌更快;LTB 延缓衰减,P-Trojan 更强,但都落后于 BadGCL。
    • 作者称 BadGCL 整条轨迹保持高 ASR,AA 贴近良性趋势;附录 C.5 的准确率矩阵(Figure 5)显示 GCBA、P-Trojan 对早期任务的干净准确率随训练下降,BadGCL 维持较高。图上只能看到各方法曲线/矩阵的相对位置与坐标轴(任务、AA/ASR),具体逐点数值未标注。

    任务变化鲁棒性(RQ3)

    • 任务顺序(Table 3,Reddit + PDGNNs):原始顺序 task-IL ASR 98.17;逆序 98.36;固定首任务的 10 种随机顺序 98.14±0.14;完全随机(首任务也变)10 种顺序 92.98±0.53(class-IL)。作者称持久性不依赖特定任务顺序。
    • 任务重访(Figure 3,OGB-Arxiv + PDGNNs,class-IL):将第 5/10/15 个任务替换为被投毒的首任务后,ASR 均有不同程度上升;作者称良性重访产生类似 replay 的强化效果,无需攻击者再次干预。

    防御评测(RQ4,Table 4a,CoraFull + PDGNNs)

    • 5 种防御下 BadGCL 的 ASR(task-IL / class-IL):AGNNCert 99.28 / 98.46,AACL 96.82 / 96.34,OD 96.50 / 95.57,RIGBD 94.92 / 94.15,A2GBD 91.76 / 89.42。
    • 作者称 AGNNCert 几乎无效(推理时聚合无法改变已巩固的后门);A2GBD 缓解最强但 AA 下降最大(task-IL 降 8.23 个百分点、class-IL 降 9.07 个百分点)。
    • 附录 C.6 说明 DShield 因需要目标标签信息、与 GCL 设定不兼容而未纳入;PruneG 类剪枝防御由 A2GBD 的边丢弃操作覆盖。

    其他消融与分析

    • 结构正则 R_str(Table 4b):去掉后无防御时 ASR 仍高(task-IL 99.31),但 RIGBD 下 class-IL ASR 降至 69.82(降 28.70 个百分点),A2GBD 下 class-IL 降至 83.36;作者称 R_str 提升对结构类防御的鲁棒性。
    • 传播目标 L_prop(Table 4c):去掉后 task-IL ASR 95.84、class-IL 92.46(完整模型为 99.46 / 98.74),AA 下降轻微;作者称 L_prop 主要稳定触发器效果而非拟合干净任务。
    • MI 权重 λ_MI(Figure 4,OGB-Products + PDGNNs):λ_MI ∈ {0, 0.1, 0.5, 1, 2, 5, 10};λ_MI = 0 时持久性弱,过大削弱直接后门拟合;作者据此选 task-IL 用 2、class-IL 用 5。图上为 AA–ASR 散点,星号标记所选权重,具体逐点数值未标注。
  5. 有什么可以进一步探索的点?

    论文未专门讨论局限;实验覆盖 4 个受害系统、4 个数据集,防御与鲁棒性评测各限于单一数据集。

    作者指出的局限与后续方向

    • 论文未专门讨论局限(无 Limitations 节,Conclusion 与附录中也没有明说"这是局限/未来可以做"的句子)。Conclusion 仅呼吁"需要能区分良性历史知识与恶意结构关联的防御",属于对领域的展望而非自认局限。

    实验覆盖范围

    • 被测受害系统为 PDGNNs、CaT-CGL、SSRM、TPP 共 4 个 GCL 系统(6.1 节);主表(Table 1、2)覆盖其中 3 个,TPP 的结果在附录 C.4 单独报告。
    • 数据集为 CoraFull、OGB-Arxiv、Reddit、OGB-Products 共 4 个;class-IL 主表(Table 2)缺 OGB-Products,其在附录 Table 6。
    • 防御评测(Table 4)仅在 CoraFull + PDGNNs 上进行,含 5 种防御;任务顺序实验(Table 3)仅用 Reddit + PDGNNs,任务重访实验(Figure 3)仅用 OGB-Arxiv + PDGNNs,λ_MI 消融(Figure 4)仅用 OGB-Products + PDGNNs。
    • 所有数值为 5 次独立运行的平均值(6.1 节);论文未报告投毒预算 ε、触发器大小 m、负梯度数 R 等参数的具体取值(仅在 Algorithm 1 列为输入,附录备注提到 R = 8 足够)。
    • CBACL 与 Blind Task Backdoor 因假设攻击者可跨任务持续干预、与本文早期一次性干预的威胁模型不兼容,被排除在基线之外(附录 C.3);DShield 因需要目标标签信息未纳入防御评测(附录 C.6)。
  6. 总结一下论文的主要内容

    BadGCL 利用 GCL 抗遗忘机制保留首任务注入的结构后门,4 基准 4 受害系统上最终 ASR 多超 95%,对现有防御保持有效。

    一篇针对图持续学习(GCL)系统的后门攻击论文。作者提出"持久性悖论"(Observation 1):GCL 为保留历史知识而设的抗遗忘机制,在投毒更新与被保留的干净任务信号兼容时,会连同保留早期注入的后门,使"持续更新天然削弱后门"成为假象。

    • 威胁模型:攻击者在干预阶段对受害系统 white-box,但只能在第一个任务投毒(预算 ε ≪ 1),之后训练完全良性,且不知道未来任务。
    • 方法:BadGCL 三阶段——干净预训练获得干净梯度信号;冻结模型参数,用梯度互信息(InfoNCE 下界)耦合投毒梯度与干净信号、用传播一致性目标稳定触发器跨消息传递层的效果、用结构正则控制触发器密度;最后一次投毒微调后退出。Theorem 1、2 给出梯度兼容缩小干净-后门损失差距、传播稳定与结构控制约束其漂移的分析。
    • 主结果:task-IL 下 CoraFull/PDGNNs 最终 ASR 99.46%、BF 0.54(Table 1);class-IL 下同设置 ASR 98.74%(Table 2),同期静态图后门基线 class-IL ASR 仅约 3–6%,最强 CL 基线 P-Trojan 为 67.86%。
    • 鲁棒性:任务逆序/随机顺序下 ASR 保持 92.98–98.36(Table 3);良性重访被投毒任务会回升 ASR(Figure 3);参数隔离受害系统 TPP 上 ASR 100.0%、BF 0.00%(附录 C.4)。
    • 防御:5 种代表性图后门防御下 BadGCL 保持有效,最强的 A2GBD 在 class-IL 下将 ASR 降至 89.42%,但 AA 同时下降 9.07 个百分点(Table 4a)。
    • 作者结论:GCL 存在安全盲区,需要能区分良性历史知识与恶意结构关联的防御。
阅读原文arxiv.org