跳到正文
原文

Poison-then-Hide:针对预训练视觉编码器的微调激活后门攻击

Poison-then-Hide: Finetuning-Activated Backdoor Attack on Pretrained Vision Encoders

arXiv:对抗攻击、后门与投毒· arXiv:2611.14970· NeurIPS 2026· Qixuan Jin, Abinitha Gourabathina, Vinith Menon Suriyakumar, Walter Gerych, Marzyeh GhassemiMassachusetts Institute of Technology; Worcester Polytechnic Institute本站收录· 6 天前· 原文发表攻击

论文速读

攻击

据论文 PDF 整理(AI 生成),以原文为准

作者提出 Poison-then-Hide,一种在预训练视觉编码器中植入休眠后门、经干净全模型微调后激活的攻击,作者称在 ImageNet→RESISC 上 ResNet50 微调后 ASR 达 87.05%。

威胁模型攻击者在预训练编码器中植入休眠后门并公开发布,受害者用干净下游数据全模型微调后后门激活。

问题
现有微调激活(FA)后门攻击假设域偏移有限或部分编码器层冻结,在全模型微调且下游任务与预训练差异较大时往往失效(作者称 ASR 降至 1–3%)。作者研究更现实的迁移学习设定下如何植入休眠后门。
方法
Poison-then-Hide 分三阶段:在模拟微调模型集成上优化触发器使其仅在微调后激活;在攻击者持有的代理数据上联合学习良性任务与后门进行投毒;发布前用带 hinge 间隔的抑制损失做定向遗忘以隐藏后门。
实验与结果
在六个数据集、四种架构上与 FAB、Hibernated、Latent、NeuBA 对比,作者称 PtH 微调后 ASR 平均高出基线 64%,且在任务对齐域偏移下保持最强;七种防御中仅 CLIP-Inspector 能检测并修复 CLIP 模型。
局限与可以继续做的
作者指出攻击是任务条件化的,不声称迁移到任意无关任务;精确干净标签冲突可擦除后门;LoRA 结果仅为单一配置;CLIP-Inspector 能成功防御 CLIP 模型。SVHN→MNIST 风格偏移下 Flip-ASR 降至 0.04%。
实验设置ResNet-18 (resnet18_cifar10)、ResNet-50 (IMAGENET1K_V2) 等 · CIFAR10、SVHN 等 · ASR、Flip-ASR 等
威胁模型
攻击者在预训练编码器中植入休眠后门并公开发布,受害者用干净下游数据全模型微调后后门激活。攻击者不能修改受害者的微调数据或流程,但需预判下游任务族和目标类语义,收集小规模任务对齐的代理数据集(Dsur),主实验中 Dsur 与受害者微调数据 Dft 样本重叠为 0%。
被测模型
ResNet-18 (resnet18_cifar10)ResNet-50 (IMAGENET1K_V2)CLIP (vit_base_patch16_clip_224.openai_ft_in12k_in1k)DINOv2
基准
CIFAR10SVHNImageNetRESISCUC MercedCamelyon17-WILDSMNIST
指标
ASRFlip-ASRtop-1 accuracy
AI 导读Qixuan Jin 等研究者提出针对预训练视觉编码器的微调激活后门攻击 Poison-then-Hide,先在预训练编码器中植入休眠后门,再用干净的下游数据微调将其激活。已有微调激活攻击通常假设域偏移有限或冻结编码器层,在全模型微调下常会失效,该方法在跨域全模型微调下仍保持有效,流程包括触发器优化、基础编码器投毒和用于隐藏后门的针对性遗忘。在六个数据集和三种模型架构上,该攻击取得最高 97% 的攻击成功率。作者发现将良性目标任务与投毒联合学习是攻击成功的关键,并演示标准检测与缓解防御无法彻底清除后门,良性微调后后门还可能重新出现。

Qixuan Jin 等研究者提出针对预训练视觉编码器的微调激活后门攻击 Poison-then-Hide,先在预训练编码器中植入休眠后门,再用干净的下游数据微调将其激活。已有微调激活攻击通常假设域偏移有限或冻结编码器层,在全模型微调下常会失效,该方法在跨域全模型微调下仍保持有效,流程包括触发器优化、基础编码器投毒和用于隐藏后门的针对性遗忘。在六个数据集和三种模型架构上,该攻击取得最高 97% 的攻击成功率。作者发现将良性目标任务与投毒联合学习是攻击成功的关键,并演示标准检测与缓解防御无法彻底清除后门,良性微调后后门还可能重新出现。

深度解读

6个问题,点开问题读完整回答

  1. 这篇论文试图解决什么问题?

    在全模型微调、下游任务与预训练差异大的现实设定下,已有微调激活后门常失效,作者提出能在该设定下存活并激活的攻击。

    核心问题:如何在预训练视觉编码器中植入休眠后门,使其在受害者用干净下游数据做全模型微调后可靠激活。

    • 场景与重要性:微调预训练编码器是跨域适配的标准做法,但微调暴露了数据投毒、训练操纵、模型修改等攻击面。作者认为微调激活(finetuning-activated, FA)攻击尤其值得关注,因为一个被植入后门的编码器可把恶意行为传播到许多下游微调模型。
    • 现有方法不足:作者称已有 FA 攻击依赖限制性假设——FAB 和 Hibernated 假设预训练与下游任务高度相似,Latent 和 NeuBA 假设微调时部分编码器层冻结;假设不满足时攻击失效,例如 Latent 的 ASR 在全层微调时从 99% 降到 0%,现实迁移设定下现有 FA 攻击 ASR 降至 1–3%。
    • 核心观察:作者发现投毒阶段联合学习良性下游任务是攻击成功的关键设计,把恶意行为嵌入与干净任务相同的特征空间,使其在微调中更难被擦除。
    • 论文提出:Poison-then-Hide(PtH),包含触发器优化、编码器投毒、后门隐藏三阶段,并在六个数据集、四种架构和七种防御上评测。
    • 威胁模型:
      • 目标:在预训练基础编码器中植入休眠后门,受害者做下游适配后激活,使带触发器输入被分类到目标类 y_adv。
      • 知识:task-conditioned 攻击者,需预判下游任务族和目标类语义,足以收集小规模任务对齐的代理数据集 Dsur;作者称此类先验知识也是以往迁移学习后门所要求的。
      • 能力:不能修改受害者的微调数据或流程;发布的检查点可表现为通用源域预训练编码器(如 ImageNet 预训练)。
      • 受害系统:对发布检查点做标准干净微调(主实验为全模型微调)的下游用户;主实验中 Dsur 与受害者微调数据 Dft 样本重叠为 0%。
  2. 有哪些相关研究?

    相关工作分后门攻击与后门防御两类;作者将自己的工作定位为研究更现实的全模型微调设定。

    后门攻击

    • 经典与持久化后门:Badnets 等通过数据投毒、模型操纵或良性训练流程植入后门;朴素微调会覆盖恶意表示、削弱或擦除后门,已有工作提出微调后仍有效的鲁棒后门,但作者称这些方法往往让预训练检查点明显被污染。
    • 隐藏式微调激活后门(本文直接对比的四个基线):Hibernated Backdoor(Ning 等,2022)在微调中对齐干净与恶意梯度;NeuBA(Zhang 等,2023)强制触发器特定的潜在表示;FAB(Gloaguen 等,2025)用元学习优化微调后激活的权重;Latent Backdoor(Yao 等,2019)把后门嵌入假定微调时保持冻结的编码器层。作者指出这些方法依赖有限域偏移或部分参数冻结等限制性假设。

    后门防御

    • 检测与输入过滤:Neural Cleanse(Wang 等,2019)通过触发器逆向和逐类异常评分检测后门模型;DECREE(Feng 等,2023)从预训练编码器重构触发器并标记异常紧凑的触发器;DeDe(Hou 等,2025)训练解码器、用输入—重构差异检测带触发器输入;CLIP-Inspector(Jindal 等,2026)是针对 prompt-tuned CLIP 的模型级检测器,用 OOD 触发器逆向并可用重构触发器修复被标记模型。
    • 模型级缓解:Fine-Pruning(Liu 等,2018)移除在干净输入上不活跃的神经元;MIMIC(Han 等,2025)用互信息引导、从干净参考编码器蒸馏;MARTINI(Tao 等,2026)重构后门样本并用正确标签重训练以硬化模型。

    基线与基准:攻击基线为 FAB、Hibernated、Latent、NeuBA 四种 FA 攻击;防御基线为上述七种。评测数据集为 CIFAR10、SVHN、ImageNet、RESISC、UC Merced、Camelyon17(-WILDS),边界实验另用 MNIST。

    定位:作者称与已有 FA 攻击不同,本文研究更现实的全模型微调设定,允许下游任务与预训练差异较大;技术上区别于先前工作之处在于投毒时联合学习良性任务、基于集成的触发器优化、以及发布前显式隐藏行为的训练后抑制阶段。

  3. 论文如何解决这个问题?

    三阶段流程:在模拟微调模型集成上优化触发器,投毒时联合学习良性任务与后门,发布前用抑制损失隐藏后门。

    Poison-then-Hide 的整体思路:先优化一个在预训练模型上表现良性、微调后才激活的触发器,再把它植入编码器,最后在发布前通过受控遗忘隐藏后门(Figure 2)。

    问题形式化

    • 设 fθ 为在 Dsrc 上预训练的视觉模型,受害者在干净下游数据 Dft 上微调得到 θ′。攻击者只能访问与 Dft 任务对齐但样本不重叠的 Dsur。
    • 攻击者优化触发器 δ(约束 ‖δ‖∞ ≤ ϵ)和目标类 y_adv,目标是微调后的模型满足 fθ′(x + αδ) = y_adv,其中 α ∈ [0,1] 控制触发器强度。

    阶段一:触发器优化

    • 用 Dsur 模拟 K 个干净微调模型 {fθk′} 来近似受害者未知的微调过程,优化目标为 δopt = argmin|δ|∞ ≤ ϵ λbase Lbase(fθ, δ) + λft Lft({fθ′k}, δ):Lbase 抑制触发器在基础模型上激活目标类,Lft 鼓励触发器在集成中各微调模型上激活目标类。
    • 用投影梯度下降优化并投影到 ℓ∞ 球;超参数(附录 B.3):ϵ = 8/255,200 步,Adam 学习率 5×10⁻³,批大小 128,λbase = 1.0、λft = 2.0,集成 10 个模拟微调检查点。

    阶段二:编码器投毒

    • 把 Dsur 的一个子集加触发器并标为目标类构成 Dpois,保留干净样本 Dclean;训练目标为四项加权和:Lclean(良性任务交叉熵)、Lpois(后门交叉熵)、LKD(对原始模型 fθ0 的 KL 蒸馏)、LSP(对初始参数的 L2-SP 正则),后两项用于保持源域性能。
    • 超参数(附录 B.4):AdamW 学习率 3×10⁻⁴、权重衰减 1×10⁻⁴,200 步,批大小 128,poison_fraction = 0.05,蒸馏温度 T = 3.0,L2-SP 系数 5×10⁻³。

    阶段三:后门隐藏

    • 在抑制目标下微调投毒模型:对带触发器输入的 logits 使用 hinge 间隔惩罚 Φ(z, yadv) = max(0, m + zyadv − maxk ≠ yadv zk),m = 2.0,使发布时某个非目标 logit 超过目标类 logit 至少间隔 m。
    • 总目标 Lhide = λclean·Lclean + λsup·Lsup + λSP·LSP + λKD·LKD,得到隐藏检查点 fθ̂;完整流程见附录 Algorithm 1。

    良性微调与成功判定

    • 受害者对发布的 fθ̂ 做标准交叉熵微调,作者称所得模型继承潜在后门。
    • 指标:常规 ASR(带触发器输入被预测为目标类的比例)和更严格的 ASRflip(真实标签非目标、干净预测非目标、加触发器后翻转到目标的比例);NeuBA 是无目标攻击,其原始 ASR 为扰动图像误分类率,Flip-ASR 列仅作对应的有目标翻转诊断。
    • 附录 A 给出理论刻画:有限步参数漂移界、模拟到受害者轨迹的迁移条件、发布时预测保持的隐藏性界;作者明确这些结果并不独立解释微调重新激活后门的机制,实验仍是主要证据。
  4. 论文做了哪些实验?

    在三个迁移设定、四种架构上对比四种 FA 攻击基线,并评测域偏移、机制因素、LoRA 和七种防御;作者称 PtH 是唯一稳定呈现先隐藏后激活行为的方法。

    实验设置

    • 被测模型:ResNet-18(resnet18_cifar10,CIFAR10 预训练)、ResNet-50(IMAGENET1K_V2)、CLIP(vit_base_patch16_clip_224.openai_ft_in12k_in1k)、DINOv2,均从预训练权重初始化。
    • 数据集与迁移设定:CIFAR10→SVHN(对 10 个目标数字取平均)、ImageNet→RESISC(目标类 parking lot)、ImageNet→Camelyon17(目标类 no tumor);域偏移设定为 Camelyon17 医院 0–2 微调、医院 3 评测,以及 RESISC 作代理数据、UC Merced 作受害者数据。数据集规模见附录 Table 6。
    • 基线:攻击基线 FAB、Hibernated、Latent、NeuBA;防御基线 Neural Cleanse、DECREE、Fine-Pruning、MIMIC、DeDe、MARTINI、CLIP-Inspector。
    • 指标:top-1 干净准确率、ASR、Flip-ASR(定义见第 3 问)。
    • 重复与统计:主结果为 5 个随机种子的均值 ± 95% 置信区间;域偏移比较另做 10 次配对运行的精确单侧配对符号翻转检验(附录 Table 12)。
    • 数据关系:除明确说明的重叠消融外,攻击者代理数据与受害者微调数据样本重叠为 0%。

    主结果

    域偏移设定(Table 1,均值 ± 95% CI,5 个种子;加粗为最强有目标攻击):

    表格较宽,可左右滑动

    模型方法C17 医院3 Flip-ASRUC Merced Flip-ASR
    ResNet50Poison-then-Hide71.81 ± 12.2687.46 ± 1.55
    ResNet50FAB58.34 ± 18.1717.93 ± 6.58
    ResNet50Hibernated63.26 ± 16.1812.33 ± 7.46
    ResNet50Latent1.89 ± 0.720.14 ± 0.06
    CLIPPoison-then-Hide42.16 ± 19.3348.91 ± 17.34
    CLIPFAB24.84 ± 11.500.27 ± 0.17
    DINOv2Poison-then-Hide40.47 ± 13.9339.74 ± 9.21
    DINOv2FAB23.15 ± 10.725.29 ± 1.95

    (据 Table 1;NeuBA 为无目标攻击、各设定 Flip-ASR 均不超过 1.34%,表中省略其行;Hibernated 和 Latent 在 CLIP、DINOv2 上的行也省略,完整数据见 Table 1。)

    • 作者称 PtH 在原始 ASR 和 Flip-ASR 下都是每个 ResNet50/CLIP 设定中最强的有目标方法,Flip-ASR 相对最强非 PtH 有目标基线的优势为 8.55(C17/ResNet50)到 69.52(UC Merced/ResNet50)个百分点。
    • 配对符号翻转检验(附录 Table 12)支持四个设定中三个的优势;CLIP/Camelyon17 为正但处于边界(p = 0.0625),作者避免对该设定做显著性主张。
    • 域内设定(附录 Table 14):PtH 在 ImageNet→RESISC/ResNet50 上微调后 ASR 87.05 ± 1.67%、隐藏模型 ASR 0.01 ± 0.01%;作者称 PtH 是唯一从隐藏到微调持续提升 ASR 的方法(平均提升 57%),微调后 ASR 平均超过基线 64%。

    机制分析:良性任务学习与触发器优化

    • 良性任务学习的作用(ResNet50、ImageNet→RESISC):投毒中基础干净准确率越高,微调后 ASR 越高(Figure 4b,Pearson r = 0.541,p = 9.66×10⁻⁴),OOD 设定下同样成立(附录 E)。
    • 良性学习不充分:基线中只有 Hibernated 在投毒中获得较高良性准确率(Table 2,68.12%),但其基础准确率与微调后 ASR 呈负相关(Figure 4c,r = −0.457,p = 1.45×10⁻²),且 ASR 绝对值低于 20%;作者据此认为良性任务学习是必要但不充分的。
    • 触发器优化(Figure 5):四种触发器(优化触发器、Latent 触发器、高斯噪声、正弦图案)中只有优化触发器在微调后保持高 ASR,其余在投毒阶段可达高 ASR 但微调后基本被擦除;集成规模消融(附录 Figure 9)显示单个代理模型不稳定,k = 5 时性能基本饱和。

    防御评测

    • 检测(Table 3,ResNet50、ImageNet→RESISC):Neural Cleanse 对 Clean(n=10)、Hidden(n=5)、Finetuned(n=5)模型的检出率为 0%、0%、20%;唯一被标记的微调模型的真实后门类不在其返回的前五个可疑类中。DECREE 三组均为 0%。
    • 缓解(Table 4、Table 5):Fine-Pruning 把微调后模型 ASR 从 87.05% 降至 20.13%,但干净准确率从 92.87% 降至 61.69%;追加干净微调后 ASR 回升到 47.63%。MIMIC 把所有后门模型 ASR 降至 4% 以下,但良性微调后 ASR 回升,最高反弹 47.49%。
    • 近期防御(附录 Table 16):MARTINI 硬化后良性微调仍有 81.50% ASR;DeDe 的过滤 ASR 低是因为拒绝了 79–89% 的干净输入,保留输入中的 ASR 仍达 95.56%(ResNet50),检测 AUC 接近随机(52.10)。CLIP-Inspector 是例外:标记全部 5 个 CLIP 模型,修复后真实触发器 ASR 降至 2.15%、干净准确率保持 95.07%,但它只适用于 CLIP 且需从 prompt tuning 设定适配。

    其他消融与分析

    • 风格偏移边界(附录 Table 9):SVHN→MNIST 标签保持偏移下,对齐 SVHN 时 Flip-ASR 45.22%,改用 MNIST 评测降至 1.07%,受害者在 MNIST 上微调后降至 0.04%(此时 MNIST 干净准确率 99.39%)。
    • 干净标签冲突(附录 Table 10):受害者微调数据中与投毒样本精确冲突的干净重叠达 75–100% 时攻击被抑制(100% 重叠时 ASR 0.00%),25–50% 时方差大。
    • 受害者数据规模(附录 Table 11):攻击者参考集 3,000 样本、受害者数据约为其 201 倍时,ASR 仍为 55.29%。
    • LoRA(附录 Table 15):ResNet18 在 CIFAR10→SVHN 上 LoRA 适配(仅更新 2.54% 参数)后 ASR 54.98%、良性准确率 96.21%,为单次运行。
    • 超参数敏感性(附录 Table 13):λsup、λKD、λSP 的适度变化和 1%–20% 的投毒比例下,干净准确率和激活后 ASR 保持相近范围。
    • 输入扰动压力测试(附录 Table 10):UC Merced 上加高斯噪声,σ = 0.10 时 ASR 降至 36.27%,σ = 0.20 时降至 4.00%,此时干净准确率也降至 50.80%。
  5. 有什么可以进一步探索的点?

    作者列出任务条件化、干净标签冲突、PEFT 覆盖和 CLIP-Inspector 四类局限;实验覆盖四种架构、六个数据集和七种防御。

    作者指出的局限与后续方向

    • 任务条件化(第 6 节 Limitations):攻击者必须预判下游任务族和目标语义,作者不声称迁移到任意无关任务。
    • 干净标签冲突(第 6 节):当大多数原本被投毒的样本在受害者微调中以干净标签重新出现时,精确干净标签冲突可擦除后门。
    • PEFT 覆盖(第 6 节):单一 LoRA 配置只表明激活在全模型微调之外是可能的;prompt tuning、蒸馏、更多 PEFT 配置和跨种子复现留作未来工作。
    • 专用防御边界(第 6 节):CLIP-Inspector 能成功检测并修复被攻击的 CLIP 模型,作者认为这激励研究具有类似行为的架构专用防御。
    • 理论范围(附录 A):形式化结果不独立解释下游微调重新激活后门的机制,机制性解释需要额外假设,作者未建立。

    实验覆盖范围

    • 被测模型为 ResNet-18、ResNet-50、CLIP、DINOv2 共四个编码器;迁移设定为 CIFAR10→SVHN、ImageNet→RESISC、ImageNet→Camelyon17 三个,域偏移评测用 UC Merced 和 Camelyon17 医院 3。
    • 攻击基线为 FAB、Hibernated、Latent、NeuBA 四种;防御评测包括 Neural Cleanse、DECREE、Fine-Pruning、MIMIC、DeDe、MARTINI、CLIP-Inspector 七种。
    • 主结果为 5 个种子的均值 ± 95% 置信区间;域偏移的配对检验为 10 次配对运行;检测实验样本量为 Clean n=10、Hidden n=5、Finetuned n=5。
    • 参数高效适配仅覆盖一个 ResNet18 LoRA 配置(单次运行,附录 Table 15 与附录 G.1)。
    • 论文未报告针对 PtH 的自适应防御(即防御方知晓三阶段机制后专门设计的缓解),防御评测均为对现有防御的直接应用或适配。
  6. 总结一下论文的主要内容

    PtH 通过联合良性任务学习、集成触发器优化和发布前抑制,在全模型微调下实现先隐藏后激活的后门,现有防御大多不能根除。

    一篇关于微调激活(FA)后门攻击的论文,面向预训练视觉编码器的供应链安全。

    • 问题:已有 FA 攻击假设域偏移有限或部分层冻结,在全模型微调且下游任务差异大时常失效(作者称 ASR 降至 1–3%)。
    • 方法:Poison-then-Hide 分三阶段——在 10 个模拟微调模型组成的集成上优化触发器(ϵ = 8/255),投毒时联合学习良性任务与后门并以 KD 和 L2-SP 保持源域性能,发布前用 hinge 间隔抑制损失(m = 2.0)隐藏后门。
    • 主结果:在 ImageNet→RESISC/ResNet50 上,隐藏模型 ASR 0.01%,干净微调后升至 87.05%(Table 2);作者称 PtH 微调后 ASR 平均超过四个基线 64%,是唯一稳定呈现先隐藏后激活行为的方法。
    • 域偏移:在 Camelyon17 医院 3 和 RESISC→UC Merced 上,PtH 的 Flip-ASR 均为最强有目标方法(Table 1);但 SVHN→MNIST 风格偏移下 Flip-ASR 降至 0.04%,显示任务对齐偏移之外的边界。
    • 机制:基础干净准确率与微调后 ASR 正相关(r = 0.541),而 Hibernated 基线无此关系,作者据此认为联合良性任务学习是必要不充分条件。
    • 防御:Neural Cleanse、DECREE 基本检测失败;Fine-Pruning、MIMIC 压低 ASR 但良性微调后回升(最高 47.63%);仅 CLIP-Inspector 能标记并修复全部 5 个 CLIP 模型(修复后 ASR 2.15%)。作者认为这构成具体防御边界,并激励架构专用防御研究。

相关论文

共同使用 SVHN
共同使用 ImageNet
再看 3 篇
共同使用 ImageNet
共同使用 MNIST
阅读原文NeurIPS 2026