针对大型视觉语言模型的上下文屏蔽后门攻击
Context-Shielded Backdoor Attack against Large Vision-Language Models
作者提出STRIPWAKE:只微调projector的LVLM后门,全token下0.4% ASR,k=64时五种压缩器上94.0%–99.7%
供应链攻击者:只控制projector的训练数据与流程,对发布后下游一无所知(compressor-agnostic),训练不用C中任何压缩器、不知部署方用哪个压缩器或预算k;受害系统为LLaVA-1.5-7B,部署方在全token审计后才挂推理时视觉token压缩器。
- LVLM部署时常用推理时视觉token压缩,但既有LVLM后门在全token推理下就近100%触发,部署前审计即可发现;权重量化/剪枝触发的后门又不覆盖token压缩这一面。
- 作者称发现context stripping现象:周围clean token会抑制trigger,剪枝剥掉context即激活。STRIPWAKE只微调projector,用随机位置tint触发器配对全token/轻剪枝休眠视图与随机代理压缩视图,再加benign teacher注意力正则。
- LLaVA-1.5-7B上,STRIPWAKE全token ASR 0.4%,k=64时五种主要压缩器上94.0%–99.7%,另四种压缩器上79.8%–98.6%,CIDEr与clean模型差0.4分以内;vanilla backdoor全token即99.2%。
- 作者称未来探索动态高分辨率tiling与视频token压缩。实验仅在LLaVA-1.5-7B上进行,评测为图像描述任务,未评测针对该攻击的防御。
- 被测模型
- LLaVA-1.5-7B
- 基准
- COCOCOCO val2017 unseen sliceFlickr8kCC3M
- 指标
- ASRCIDEr∆CIDEr
研究者提出仅改动 projector 的后门 StripWake,在 LLaVA-1.5-7B 上全 token 推理时攻击成功率仅 0.4%,而在五种主要压缩器上达到 94.0%–99.7%。作者将这一现象称为上下文剥离:完整的干净视觉 token 会压制嵌入的触发器,推理期的视觉 token 压缩剪掉这些上下文后,后门才被激活。方法上,StripWake 将干净监督的全 token 视图与目标监督的随机压缩视图配对训练,并对齐冻结的良性教师模型的早期视觉注意力,以保持干净任务上的表现。在九个未见过的压缩器上,该后门仍处于休眠状态,且未造成 CIDEr 损失。
深度解读
这篇论文试图解决什么问题?
作者称发现context stripping,并提出全token休眠、压缩时激活的LVLM后门STRIPWAKE
核心问题:能否造出一种LVLM后门,在部署前全token审计下保持休眠,却在部署方挂上推理时视觉token压缩器后自动激活?
- 场景与动机:LVLM(如LLaVA-1.5)把一张图编成576个视觉token,部署时常用训练免费的压缩器([CLS]剪枝、VisionZip、FastV等)丢掉75%–90%的token。作者指出,审计的是全token序列,部署处理的却是压缩后的序列,两者存在错配。
- 现有方法的不足:作者称,既有LVLM后门在全token推理下ASR接近100%,发布前的行为抽查和STRIP等输出扰动检测器会直接暴露它;而量化/剪枝触发的部署型后门改的是权重,无法区分全token推理与token压缩部署。
- 核心观察:作者称发现context stripping——周围clean视觉token会抑制嵌入的trigger,全token时后门被压制,token剪枝剥掉这层context后后门激活(Figure 1)。
- 论文提出:STRIPWAKE,一个只微调两层projector的后门攻击:全token视图配clean监督、随机代理压缩视图配目标串监督,并用冻结benign teacher对齐早期视觉注意力以保持clean效用。
- 威胁模型(Sec 3,供应链攻击者):
- 目标:压缩部署时高ASR、全token时ASR近0、clean CIDEr不掉(Eq. 1)。
- 知识:compressor-agnostic——训练不用C中任何压缩器,也不知部署方选哪个压缩器或预算k。
- 能力:只控制projector的训练数据与流程(6,000张COCO图、投毒率5%),发布后下游一切不可控。
- 受害系统:LLaVA-1.5-7B;审计方在全token输入上核查后才挂压缩器。
有哪些相关研究?
相关工作分LVLM后门、部署触发后门、视觉token压缩三组,作者称本文把激活条件从输入/权重移到token序列
LVLM后门攻击
- BadCLIP [2]、BadVLM [5]、TrojVLM [16]、Shadowcast [26]、BadToken [28] 等——通过可见patch、扰动、风格变换或多模态token hook植入trigger,使触发输入产生攻击者选定回复。
- 作者指出,这些后门都为标准全token推理训练,全token评估时立即暴露;本文属于同一攻击类别,但把激活条件从输入移到token序列。
部署触发的后门
- 量化激活与剪枝激活后门 [6, 18, 22]——联合优化全精度权重与量化/剪枝后权重的行为差异,模型压缩后才激活。
- 作者指出,这些方法研究的是权重空间编辑,而本文的推理时token压缩不改权重,权重触发的攻击无法区分全token推理与压缩部署。
LVLM视觉token压缩
- pre-LLM压缩器:[CLS]-attention剪枝、VisionZip [27]、DivPrune [1]、PruMerge [21]、VisPruner [29]、FlowCut [23]——用视觉编码器信号排序或合并token。
- in-LLM压缩器:FastV [4]、SparseVLM [30]、PyramidDrop [25]——在语言模型内部按跨模态注意力剪枝;另有工作分析其位置recency偏置 [7]。作者称这些压缩器只被当作效率机制,其安全影响未被探索。
基线与对照:vanilla backdoor(全token视图+DINO-salience触发器)、two-view baseline(全token休眠视图配[CLS]剪枝视图、DINO触发器、无P和Lakd)、clean模型(同配方无投毒训练)。评测用COCO,泛化实验用Flickr8k、CC3M。
作者将本文定位为部署触发范式下的新激活面:用全token序列中的clean patch当盾牌,只在token剪枝剥掉context时激活。
论文如何解决这个问题?
STRIPWAKE只训projector:随机tint触发器+休眠/压缩双视图+随机代理压缩器+benign teacher注意力正则
整体思路:不教模型识别某个具体压缩器的打分规则,而是训练projector让trigger在短token序列中激活、在长clean context中抑制。方法名STRIPWAKE,只更新两层projector gϕ,视觉编码器与语言模型冻结。
问题形式化
- 受害模型为LLaVA-1.5-7B(CLIP ViT-L/14,336×336,N=576个patch token;Vicuna-7B)。压缩算子Ck把576个token减到k(默认k=64,去掉89%),可在projector后(d=0)或语言模型早层内(d≥1)。
- 攻击者优化projector参数ϕ,同时满足三个目标(Eq. 1):压缩下输出目标串概率高(activation)、全token下约0(dormancy)、CIDEr与clean模型相当(utility)。
Context-shielded multi-view poisoning
- 随机token乘法tint触发器:在一次训练运行开始时均匀随机选定q=5%(29/576)个patch位置,对像素按通道乘固定符号的tint(幅度δ=96),即
x̃_u = \mathrm{clip}(x_u \odot (1 + \frac{\delta}{255}s), 0, 255);随机分布保证位置偏置与内容偏置的压缩器都会按比例采到trigger。 - 配对视图:每张投毒图每步给四个视图——全token视图和轻剪枝视图(m∈{384,448,512})监督clean caption(Ldorm),两个随机代理压缩视图(k∈{48,…,256})监督目标串(Lact);clean图用全token+一个压缩视图监督caption(Lclean)。
- 随机代理压缩器P:每次采样随机化五个结构轴——预算k、剪枝深度d∈{0,…,4}、位置ID保留或重排、是否合并被丢token、以及token选择规则(score-mixed与retention-controlled各半),训练中不运行任何真实压缩器。
Benign-teacher attention regularization
- 作者报告,仅用交叉熵三项会让投毒projector扰动早期prompt-to-vision注意力,使FastV/SparseVLM下clean CIDEr掉4.9–6.2分。
- 因此对clean压缩视图,把语言模型第1–12层last-prompt-token对保留视觉token的注意力(头平均、归一化)与冻结benign teacher projector的对应分布做Jensen-Shannon散度惩罚,即 Lakd(ϕ) = 𝔼Dc 1/(|Λ|) ∑ℓ ∈ Λ JSD(α̃(ℓ)ϕ | α̃(ℓ)ϕ0),权重λ=15。
训练与成功判定
- 总目标为四项加权和(Eq. 2)。AdamW,学习率2×10⁻⁴,batch 32,2 epoch,6,000张COCO图、投毒率ρ=5%(300张)。
- 成功判定:全token ASR近0、压缩ASR高、CIDEr与clean模型相当;ASR按贪心解码输出是否包含精确目标串计算。
论文做了哪些实验?
LLaVA-1.5-7B上全token ASR 0.4%、k=64五种压缩器94.0%–99.7%,并有因果干预、消融与泛化实验
实验设置
- 被测模型:LLaVA-1.5-7B(CLIP ViT-L/14 + Vicuna-7B,只训两层projector)。
- 压缩器:九个已发表训练免费压缩器,全部只在测试时使用——主表五种([CLS]剪枝、VisionZip、DivPrune、FastV、SparseVLM),另四种(PruMerge、PruMerge+、VisPruner、FlowCut),外加PyramidDrop(PDrop∗)和均匀Random剪枝。
- 基线:clean模型(同配方无投毒)、vanilla backdoor(全token视图+DINO-salience触发器)、two-view baseline(全token休眠视图+[CLS]剪枝视图,无P和Lakd)。
- 数据与规模:6,000张COCO训练图、投毒300张;主评测用500张held-out COCO Karpathy测试图,3个独立训练种子(mean±std);附录泛化实验每设置300张。
- 指标:ASR(贪心解码输出含精确目标串的比例)与clean captioning CIDEr及相对clean模型的∆CIDEr。
- 默认设置:k=64(保留11% token),触发器δ=96、q=5%(29个patch)。
主结果
据Table 3(k=64,ASR %,∆CIDEr相对clean模型):
表格较宽,可左右滑动
方法 全token(↓) [CLS] VisionZip DivPrune FastV SparseVLM PDrop∗ Random ∆CIDEr Full/[CLS]/FastV Clean model 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 132.3/118.1/109.0(CIDEr原值) Vanilla backdoor 99.2 97.0 95.6 99.6 99.4 99.6 99.4 94.0 −3.3/−14.0/−11.3 Two-view baseline 0.2 95.8 95.2 97.2 12.6 14.0 5.2 47.0 −4.6/−2.9/−3.7 STRIPWAKE 0.4±0.2 94.5 94.0 99.3 99.6 99.7 90.8 90.8 −0.4/−0.4/+1.1 w/o Lakd 0.7 94.7 94.1 99.3 99.3 99.3 80.5 88.2 −0.7/+0.3/−4.9 - 作者称STRIPWAKE全token下近乎静默,五种未见压缩器上一致激活;vanilla backdoor全token即99.2%,审计时暴露。
- two-view baseline能转移到pre-LLM压缩器,但作者指出它在in-LLM注意力压缩器上失败(FastV 12.6%、SparseVLM 14.0%),说明单一剪枝启发式不够。
- 作者称STRIPWAKE的CIDEr与clean模型差在−0.4到+1.1分,在clean运行约5分的自然波动内。
机理验证:context stripping(Sec 5.2)
- trigger存活干预(Table 1,k=64):强制保留全部29个trigger token,[CLS]与Random剪枝ASR分别从93.3%、89.3%升到100.0%;强制全部丢弃则降到35.7%、30.9%。作者称残余激活来自视觉编码器3×3卷积把trigger特征扩散到邻近clean patch。
- clean token恢复(Table 2):固定29个trigger token,逐步恢复c个clean token;c≤256时ASR保持97.3%以上,c=384时降到48.0%/49.0%,c=512时降到1.2%/0.8%;同图与无关图来源的差距不超过1.7个百分点。作者称抑制来自clean token的存在与数量而非场景语义。
- 预算扫描(Figure 3、Table 7):作者称[CLS]/VisionZip/DivPrune在256 token饱和,FastV/SparseVLM在192饱和,PDrop∗在64饱和;注意力型压缩器的trigger占比随预算下降升到12%–30%(Table 8),Random剪枝下保持5%。
泛化实验(Table 4、Table 6)
- 另四种未见压缩器(Table 4,同一checkpoint不重训):k=64时PruMerge 98.6%、PruMerge+ 96.9%、VisPruner 96.3%、FlowCut 79.8%;k=128时97.7%–99.7%;PruMerge/PruMerge+原生自适应规则下95.9%/97.5%。
- 指令、数据集、触发器强度(Table 6):四种用户指令下全token ASR不超过0.9%,[CLS]64为94.4%–94.6%、FastV64为99.1%–100.0%;未见数据集(COCO未见切片、Flickr8k、CC3M)上全token 0.3%–1.9%,[CLS]64为82.3%–93.1%;δ=64或q=2.5%时[CLS]64/FastV64为84.6%/98.2%与91.2%/98.3%;clean图误触发至多0.1%。
其他消融与分析
- 去Lakd:休眠与压缩激活不变,FastV ∆CIDEr降到−4.9、SparseVLM降到−6.2(Table 5)。
- P换成仅[CLS]视图:FastV ASR 99.6%→91.6%,SparseVLM 99.7%→92.8%(Table 5)。
- 随机触发器换DINO-salience触发器(同two-view训练):FastV 73.6%→12.6%,SparseVLM 74.0%→14.0%(Table 5)。
- 垂直翻转对照(附录D):FastV注意力与token行号的Spearman相关原图+0.55、翻转后+0.51,[CLS]注意力接近0;作者称这说明FastV按位置排序、[CLS]按内容排序。
有什么可以进一步探索的点?
作者仅提出动态高分辨率tiling与视频token压缩两个未来方向;实验限于LLaVA-1.5-7B与描述任务
作者指出的局限与后续方向
- 作者称未来工作将探索动态高分辨率tiling和视频token压缩(Sec 6 Conclusion)。
- 论文未专门讨论其他局限。
实验覆盖范围
- 被测模型仅LLaVA-1.5-7B一个(CLIP ViT-L/14 + Vicuna-7B),所有结果都在它上面(Sec 5.1)。
- 评测任务为图像描述:训练用6,000张COCO图,主评测500张COCO Karpathy测试图、3个种子;泛化实验每设置300张,含Flickr8k与CC3M(Sec 5.1、附录C)。
- 压缩器覆盖九个已发表方法加PDrop∗与Random剪枝,全部只在测试时使用(Sec 5.1、附录B)。
- 攻击只微调两层projector,视觉编码器与语言模型冻结;威胁模型假设攻击者不知部署方的压缩器与预算(Sec 3)。
- 论文未评测任何针对STRIPWAKE的防御或检测方法;引言提到STRIP等输出扰动检测器可抓住全token即触发的既有后门,但未报告它们对STRIPWAKE的效果。
总结一下论文的主要内容
作者称发现context stripping并提出STRIPWAKE:全token休眠、九种压缩器上激活、CIDEr几乎不掉
一篇LVLM后门攻击论文,核心是把后门的激活条件从输入或权重移到推理时的token压缩。
- 问题:既有LVLM后门全token推理下ASR近100%,部署前审计即暴露;量化/剪枝触发的部署型后门改权重,覆盖不了token压缩这一部署面。
- 发现:作者称发现context stripping——周围clean视觉token像盾牌一样抑制trigger,token剪枝剥掉context后后门激活;因果干预显示trigger存活与context移除是两个必要条件(Table 1、Table 2)。
- 方法:STRIPWAKE只微调两层projector:随机位置乘法tint触发器(q=5%、δ=96),全token/轻剪枝视图监督clean caption、随机代理压缩视图监督目标串,再加benign teacher注意力正则(λ=15,第1–12层JSD)保clean效用;训练中不运行任何真实压缩器。
- 结果:LLaVA-1.5-7B上,全token ASR 0.4%,k=64时五种主要未见压缩器上94.0%–99.7%,另四种压缩器上79.8%–99.7%(Table 3、Table 4);∆CIDEr在−0.4到+1.1分;vanilla backdoor全token即99.2%暴露,two-view baseline在FastV/SparseVLM上仅12.6%/14.0%。
- 泛化:四种未见指令、三个未见图像数据集、更弱触发器(δ=64或q=2.5%)下仍保持全token休眠与压缩激活,clean图误触发至多0.1%(Table 6)。
- 作者结论:部署前LVLM安全评估不能只审全token行为,必须审计压缩部署路径;未来探索动态高分辨率tiling与视频token压缩。