跳到正文
原文

面向黑盒 LLM 所有权验证的定向反事实指纹框架 TCF

Targeted Counterfactual Fingerprinting for Black-Box LLM Ownership Verification

arXiv· arXiv:2608.08195· Yutong Wu, Xiaofan Bai, Shixin Li, Pingyi Hu, Ziqi Zhou, Zilong Wang, Xiaojing Ma, Songfeng Lu, Yuhong Li, Jin Xuan, Yi Wang, Dongmei Zhang, Bin Benjamin ZhuHuazhong University of Science and Technology; Alibaba Group; Microsoft Corporation本站收录· 19 天前· 原文发表防御

论文速读

防御

据论文 PDF 整理(AI 生成),以原文为准

作者提出黑盒 LLM 所有权验证框架 TCF,在四个源模型家族上平均 AUC 0.9861,作者称优于 TRAP、ProFLingo、ZeroPrint。

威胁模型所有者离线完全访问受保护源模型 M0,验证时只能通过公开文本接口查询嫌疑服务 Ms,仅观察最终生成文本,不能访问其参数、logits、隐藏状态、解码配置等;正类为 M0 及其衍生模型(SFT、RLHF、LoRA、剪枝、量化等),负类为独立训练模型;假设私有指纹集在验证前不为嫌疑方所知。

问题
部署的 LLM 只暴露查询 API,所有者难以判断嫌疑服务是否衍生自受保护模型;现有黑盒指纹依赖全文匹配、软行为特征或不可迁移的提示词,在最终文本接口下脆弱。
方法
TCF 把验证约束为 A/B/C/D 有限答案空间,用 GCG 在源模型上优化扰动前缀,把干净答案翻转到指定的反事实目标答案;以源模型反事实边际(SCM)统一目标选择、早停和过滤,在线只统计解析标签与目标的命中率。
实验与结果
四个源模型家族上 TCF 平均 AUC 0.9861,三个家族达 1.0000;商业 API、蒸馏学生、解码变化、改写、模型合并等场景下作者称仍保持可分离;自适应 LoRA 擦除可清除已泄露指纹,但拆分变体 TCF-S8 未泄露目标准确率保持至少 0.80。
局限与可以继续做的
论文未设专门局限章节;理论分离以显式 ϵD、ϵI 预算为条件,阈值公式被视为理论存在性陈述;实验覆盖四个开源源家族、每源 20 条指纹,商业 API 测试仅一个源模型对三个独立模型,论文未报告验证的重复次数与置信区间。
实验设置Qwen3-1.7B Instruct、Qwen3-1.7B Base 等 · MMLU、MMLU-CF 等 · AUC、target accuracy (TA) 等
被测模型
Qwen3-1.7B InstructQwen3-1.7B BaseLlama3-8B Base DirectMistral-7B-v0.3
基准
MMLUMMLU-CFOpenRouter
指标
AUCtarget accuracy (TA)Clean100 Acc.T-AgreePPL
AI 导读研究者提出 TCF(Targeted Counterfactual Fingerprinting)黑盒指纹框架,用于验证仅能通过查询 API 访问的 LLM 的所有权。TCF 把开放式生成比较转化为受限答案的定向反事实迁移,将每个验证查询限制在有限答案空间内,并优化提示词扰动使其指向与受保护模型在原始提示上干净答案不同的反事实目标,验证只需核对嫌疑模型解析后的最终答案是否匹配记录目标。论文提出仅依赖受保护模型的源模型反事实边际(SCM),认证目标在扰动前不太可能出现、扰动后大概率出现,用于控制目标选择、扰动停止与指纹过滤,并在派生保持与独立迁移预算下推导出派生模型与独立模型之间的目标准确率差距。在四个 LLM 家族上,TCF 平均 AUC 达 0.9861,较 TRAP、ProFLingo 和 ZeroPrint 提升 0.07 至 0.19。

研究者提出 TCF(Targeted Counterfactual Fingerprinting)黑盒指纹框架,用于验证仅能通过查询 API 访问的 LLM 的所有权。TCF 把开放式生成比较转化为受限答案的定向反事实迁移,将每个验证查询限制在有限答案空间内,并优化提示词扰动使其指向与受保护模型在原始提示上干净答案不同的反事实目标,验证只需核对嫌疑模型解析后的最终答案是否匹配记录目标。论文提出仅依赖受保护模型的源模型反事实边际(SCM),认证目标在扰动前不太可能出现、扰动后大概率出现,用于控制目标选择、扰动停止与指纹过滤,并在派生保持与独立迁移预算下推导出派生模型与独立模型之间的目标准确率差距。在四个 LLM 家族上,TCF 平均 AUC 达 0.9861,较 TRAP、ProFLingo 和 ZeroPrint 提升 0.07 至 0.19。

深度解读

6个问题,点开问题读完整回答

  1. 这篇论文试图解决什么问题?

    只用黑盒文本回复判断嫌疑模型是否衍生自受保护源模型,现有黑盒指纹信号在该接口下脆弱。

    核心问题:在只能查询文本 API 的黑盒条件下,如何获得可审计的证据,把受保护模型的衍生模型与独立训练模型区分开。

    • 场景与动机:LLM 训练成本高,但第三方可通过 API 包装、微调、量化、偏好调优等方式低门槛复用;作者认为许可证执行需要可靠、可审计的证据,而唯一可用信号是多变、歧义的文本输出。
    • 现有方法不足(按论文说法):水印需改动训练或解码流程,无法追溯已发布模型;ProFLingo 依赖全文匹配,怕改写和格式变化;TRAP 的 GCG 后缀为精确身份验证设计、不可迁移,漏掉微调或量化衍生品;ZeroPrint 需要嵌入与相似度打分,违反严格硬标签约束。
    • 核心观察:开放式生成带来表面形式歧义;把输出约束到有限答案空间(A/B/C/D)可把噪声生成变成可复现的硬标签事件,再让指纹编码"源模型特有的反事实答案翻转"作为所有权证据。
    • 论文提出:TCF(Targeted Counterfactual Fingerprinting)框架,以及仅用源模型计算的 SCM(source-model counterfactual margin)量,统一指纹构造的目标选择、扰动停止与过滤,并给出目标准确率分离的理论界。
    • 威胁模型(Sec. III-A):
      • 目标:判断嫌疑服务 Ms 是 M0 本身还是其衍生模型;正类含 SFT、指令微调、RLHF、DPO、LoRA、剪枝、量化等衍生品,负类为独立训练模型。
      • 所有者知识:离线阶段完全访问 M0(概率、梯度、解码行为),仅用于构造指纹。
      • 嫌疑方访问:仅文本查询与最终生成文本;不能访问参数、logits、隐藏状态、tokenizer、系统提示、解码配置。
      • 对抗方能力:可部署修改版模型、调解码参数、改系统提示与输出格式、做后处理;假设私有指纹集在验证前不被嫌疑方知晓。
  2. 有哪些相关研究?

    相关工作分三类:侵入式水印、白盒/表示级指纹、黑盒行为指纹;TCF 定位为非侵入、严格黑盒、硬标签方法。

    水印与侵入式所有权信号

    • 经典 DNN 水印(Adi 等 2018、Zhang 等 2018、DeepSigns 等)——通过后门触发、参数签名、对抗前沿或输出调制嵌入信号;LLM 水印扩展到生成统计、微调数据或触发-响应对(Kirchenbauer 等 2023 等),另有指令后门、跨轮上下文后门、概率溯源注入等变体。
    • 论文指出这类方法的两个局限:无法追溯已发布、泄露或被第三方修改的模型;需要改动受保护模型或其训练流程。作者还指出文本水印针对内容溯源而非模型所有权,与本文问题正交。

    白盒/表示级指纹

    • HuRef(Zeng 等 2024)——从不变参数提取人类可读指纹;REEF(Zhang 等 2025)——比较跨模型表示相似度。
    • 论文指出它们与只暴露最终文本的严格黑盒 API 不兼容;作者称本文方法与之互补:源侧访问只用于离线构造,验证只用解析后的文本标签。

    黑盒行为指纹(本文所属类别)

    • ProFLingo(Jin 等 2024)——构造诱导源模型目标回复的查询并检查精确复现;论文批评其依赖全文匹配,对改写、解码变化和格式变化脆弱。
    • TRAP(Gubri 等 2024)——优化 GCG 对抗后缀迫使源模型输出随机串;论文指出其为精确身份验证设计、后缀故意不可迁移,无法检测微调、量化或修改的衍生品。
    • ZeroPrint(Shao 等 2026)——用语义保持扰动和输出嵌入估计局部类雅可比指纹;论文指出它需要嵌入比较和重复扰动查询,违反严格硬标签约束。

    基线与基准:对比基线为 TRAP、ProFLingo、ZeroPrint 三个黑盒指纹方法;指纹构造数据来自 MMLU 多选题,蒸馏实验的效用评测用 MMLU-CF,商业 API 测试经 OpenRouter。

    定位:作者把 TCF 定位为非侵入、严格黑盒、硬标签的所有权验证方法(Table I),与 TRAP 的精确身份验证不同,TCF 检测家族成员关系,把源特有反事实迁移的保留程度作为证据。

  3. 论文如何解决这个问题?

    TCF 把验证约束为有限答案空间的目标答案迁移,用 SCM 统一指纹构造各阶段,在线只统计硬标签命中率。

    整体思路:把开放式生成比较改写为约束答案下的定向反事实迁移——指纹提示词把源模型的答案从干净答案翻转到预设的反事实目标,验证时检查嫌疑模型的解析标签是否命中该目标。框架名为 TCF。

    问题形式化与验证协议

    • 指纹集 F = {(pi, yi, ti)}:pi 为验证提示词,yi 为源模型干净答案,ti 为记录的目标答案;验证分数为目标准确率 TA,即解析标签等于 ti 的比例(Eq. 2)。
    • 答案空间 A 实例化为 {A, B, C, D} 多选标签;确定性解析器把回复映射为合法标签或 ⊥(无效),无效回复计为失败、不做软修复。
    • TA 达到预注册阈值 ζ 即判定为衍生模型;目标不是证明字节级相等,而是判断嫌疑服务是否保留源家族指纹行为。

    SCM 与理论分析

    • 目标对数几率 LM(p, t) = log (qM(t|p))/(1 − qM(t|p)),衡量模型对目标答案的偏好强度。
    • SCM 定义为 Γ(x, u, t) = min{LM0(pu(x), t), −LM0(p0(x), t)},同时要求目标在扰动后可能、在干净提示下不可能。
    • 在局部行为接近假设(Assumption IV.2)下引入显式衍生保留预算 ϵD 与独立迁移预算 ϵI,推出衍生模型目标命中下界与独立模型上界;固定预算下期望分离间隙为正的条件是 2Γmin > ϵD + ϵI(Eq. 38)。
    • 作者称过强扰动也会增加对独立模型的泛化迁移,因此存在内部可行 SCM 区间,应早停而非最大化优化(Fig. 4)。

    离线指纹构造(源模型单侧)

    • 目标选择:在干净提示下评估源模型的合法标签分布,选干净答案之外、满足干净侧 SCM 要求且干净概率最低的目标;无合格目标则丢弃该题。
    • 扰动优化:用 GCG 优化离散前缀 u,最小化目标负对数似然;按 Lemma 1 的停止规则,源目标损失降到阈值以下即早停,设 Γtarget = Γmin。
    • 稳定性过滤:可选地对源模型重复查询 R0 次,仅保留目标标签稳定比例 sb0 ≥ smin 的候选,作者建议 smin ∈ [0.8, 0.95]。
    • 多样性过滤:对问题、类别、干净答案、目标答案做均衡,形成固定注册表。

    在线黑盒验证

    • 验证提示词 pi = si ⊕ qi ⊕ τ:GCG 前缀、原始多选题、固定作答指令(只输出一个大写字母)拼接。
    • 每条指纹一次查询,解析标签命中目标记 1,TA 为命中率均值;指纹池离线生成可复用,可采样子集做多次独立验证。
    • 主评测每源模型用 20 条指纹,来自 MMLU 四个学科类别各 5 题。

    关键参数

    • 主配置(Table IX):GCG 200 步、候选批大小 128、top-k 64、前缀长度 20 token、放置在问题前缀;每源 20 条指纹。
    • 自然化变体:NaturalCarrier 把优化片段包进短提示语,TCF-S4/TCF-S8 把插入位置分散到 4 或 8 处,验证器不变(附录 A-D4)。
  4. 论文做了哪些实验?

    四个源家族上 TCF 平均 AUC 0.9861,并覆盖商业 API、蒸馏、解码变化、改写、模型合并与自适应擦除等场景。

    实验设置

    • 被测模型:四个受保护源模型 Qwen3-1.7B Instruct、Qwen3-1.7B Base、Llama3-8B Base Direct、Mistral-7B-v0.3;嫌疑池每源含源模型、衍生正类(SFT、RL、领域适配、剪枝、合并等)与独立负类,规模为 19/22/25/25 个(Table II)。
    • 数据:指纹来自 MMLU 多选题,每源 20 条、四个学科类别各 5 题;蒸馏效用评测用 MMLU-CF。
    • 基线:TRAP、ProFLingo、ZeroPrint,各按原始协议与分数定义评测(Table X)。
    • 指标:主指标为验证 AUC;指纹分数为目标标签准确率;蒸馏实验报 Clean100 Acc. 与 T-Agree。
    • 判定方式:确定性解析器输出 A/B/C/D/⊥,命中记录目标计 1;无 LLM 评审。
    • 重复次数:论文未报告验证的重复运行次数或置信区间。

    主结果

    据 Table III(验证 AUC):

    表格较宽,可左右滑动

    源模型TCFTRAPProFLingoZeroPrint
    Qwen3-1.7B Instruct1.00000.92860.97961.0000
    Qwen3-1.7B Base1.00000.88460.92310.9722
    Llama3-8B Base Direct0.94440.75930.82410.7885
    Mistral-7B-v0.31.00000.60000.82500.8906
    平均0.98610.79310.88800.9128
    • 作者称 TCF 在 Qwen3-1.7B Instruct 上与最强基线持平,在其余三个家族上超过最强基线;最强基线随模型而变(ZeroPrint 在 Qwen3 与 Mistral 上最强,ProFLingo 在 Llama3 上最强)。
    • 诊断池指纹分数(Table IV):TCF 源模型分数 0.6000–1.0000,衍生均值 0.4281–0.6833,独立均值 0.1000–0.3143;作者称 Llama3 是最具挑战的源家族。
    • 附录 Table XII 列出 TCF 行级 AUC 非最高的两个例外:Llama-3-8b-Ita(TCF 0.444,ProFLingo 0.889)与 SparseLlama-3-8B 剪枝版(TCF 0.778,TRAP 1.000)。

    商业 API 与模型蒸馏

    • 商业 API(Table V):经 OpenRouter 以 meta-llama/llama-3-8b-instruct 为源、qwen3-8b 与两个 gemma-3 模型为独立负类,TCF 与 TRAP 的 AUC 均为 1.000,ProFLingo 0.833,ZeroPrint 0.333;作者称该测试掩盖了 TRAP 在受控评测中较弱的衍生模型迁移。
    • 蒸馏(Table VI):Mistral-7B-v0.3 蒸馏到 Llama-2-7B(2472 对干净教师标签、LoRA SFT 三轮),学生 Clean100 从 0.53 升至 0.69,TCF 的 AUC 从蒸馏前 0.31 升至 0.88;TRAP 保持 0.50,ProFLingo 从 0.06 降至 0.00,ZeroPrint 从 0.56 降至 0.25。作者称指纹被只见过干净教师输出的学生继承。

    鲁棒性与自适应攻击

    • 解码与采样(Fig. 11(b)(c)):作者称 TCF 在所有测试的 nucleus 采样设置下保持接近满分 AUC,温度扫描中保持在 0.91 以上;高温是主要退化来源。
    • 改写与分数扰动(Fig. 11(d)(e)):在 Gemma 2 2B-IT、OLMo 2 1B-Instruct、Qwen2 0.5B-Instruct 三个改写模型下,作者称 TCF 均取得最高 AUC;分数空间加噪下保持稳健。
    • 模型合并(Fig. 11(f)):Qwen3-1.7B-Base 与 Qwen3-1.7B 线性插值扫描中,作者报告 TCF 全程 AUC 保持 1.0,TRAP 降到随机水平,ProFLingo 与 ZeroPrint 不稳定。
    • 自适应 LoRA 擦除(Fig. 9):攻击者在 50% 指纹泄露下做 LoRA 微调,已泄露指纹的目标准确率可降到 0.00;TCF 未泄露指纹保持非平凡准确率,TCF-S4 至少 0.70、TCF-S8 至少 0.80。作者称拆分使指纹更抗擦除。
    • 机理分析(Fig. 10):原始未拆分变体的边界穿越率 0.3967、残余隐藏边际 0.1525,TCF-S4/S8 穿越率 0.1767/0.1667、残余边际 0.8483/0.7958;残余隐藏边际与最低检测 AUC 的 Spearman 相关 ρ = 0.8070。

    其他消融与分析

    • 指纹数量 n(Fig. 12(a),Qwen3-1.7B Base):n 从 5 到 10 性能上升,之后饱和。
    • 前缀长度(Fig. 12(b)):中等长度足够,过短或过长都会削弱衍生-独立分离。
    • 目标答案排名(Fig. 12(c)):Top-1/2/3 目标在该诊断中 AUC 均为 1.0000,但独立模型均值不同;作者据此建议目标选择应最小化独立模型的意外偏好。
    • 计算成本(Table VII,Qwen3-1.7B Base):TCF 单指纹总耗时 1269.3s、验证 68.7s;TRAP 8460.5s,ProFLingo 1625.0s,ZeroPrint 1954.5s(其中验证 1910.5s)。
    • 自然度(Fig. 8):作者称 TCF-S4/S8 在全文与窗口 PPL 上最低,同时保持最高验证 AUC。
  5. 有什么可以进一步探索的点?

    论文未设专门局限章节;理论结果以显式预算为条件,实验覆盖四个开源家族与有限的商业 API 场景。

    作者指出的局限与后续方向

    • 论文未专门讨论局限,未设 Limitations 或 Future Work 小节;以下为正文中作者自己加的条件性说明。
    • 理论条件性(Sec. IV-D、附录 A-B6):局部行为接近假设本身不是对未知嫌疑模型的数值界,所有形式分离结果都以显式 ϵD、ϵI 预算为条件。
    • 阈值公式仅为存在性陈述(Sec. IV-H):真实嫌疑模型的预算不可得,Eq. 40 的中点阈值应视为理论存在性陈述;作者建议操作阈值从源侧构造规则预注册,或在非衍生模型留出池上校准,而非在测试嫌疑池上调。
    • 独立性是统计理想化(附录 A-B15):同一源模型、模板和数据集构造的指纹可能相关,部署级审计应按有效样本量解释集中度,或用分块/bootstrap 重采样估计。
    • 边际-采样界是理想化(Sec. IV-H、附录 A-B16):Eq. 44 不断言任意原始文本 API 只从合法标签采样,实际 API 侧保证仍是经验性的,由重复查询稳定性过滤检查。
    • 公开注册表不可直接部署(附录 A-J):随论文发布的注册表只是复现工件,部署级审计应生成新的私有注册表并在审计完成前保密目标。

    实验覆盖范围

    • 被测源模型为 Qwen3-1.7B Instruct、Qwen3-1.7B Base、Llama3-8B Base Direct、Mistral-7B-v0.3 共 4 个开源模型,参数量 1.7B–8B;嫌疑池共 91 个检查点(Table II)。
    • 指纹构造仅用 MMLU 多选题,每源 20 条、四个学科类别;答案空间为 {A, B, C, D}。
    • 商业 API 测试仅覆盖 OpenRouter 上一个源模型(llama-3-8b-instruct)对三个独立模型,作者说明该平台不提供受控衍生池,只做源对独立测试(Sec. VI-B)。
    • 蒸馏实验为单一方向:Mistral-7B-v0.3 到 Llama-2-7B,2472 对干净标签、LoRA SFT 三轮(Table VI)。
    • 论文未报告主 AUC 的重复运行次数、置信区间或统计显著性检验;自适应攻击默认 50% 指纹泄露,泄露比例的其他取值未报告。
  6. 总结一下论文的主要内容

    TCF 用约束答案反事实迁移做黑盒所有权验证,四个源家族平均 AUC 0.9861,作者称覆盖蒸馏、合并与自适应擦除场景。

    一篇关于黑盒 LLM 所有权验证的防御类论文,提出指纹框架 TCF。

    • 问题:部署模型只暴露文本 API,所有者需判断嫌疑服务是否衍生自受保护模型;作者认为现有黑盒指纹依赖全文匹配、软行为特征或不可迁移提示词,在严格最终文本接口下脆弱。
    • 方法:把验证约束到 {A, B, C, D} 有限答案空间,用 GCG 在源模型上优化扰动前缀,把干净答案翻转到预设反事实目标;仅用源模型计算的 SCM 统一目标选择、早停与过滤;在线验证只统计解析标签对目标的命中率,无效输出计为失败。
    • 理论:在显式衍生保留预算 ϵD 与独立迁移预算 ϵI 下推出目标准确率分离界,正间隙充分条件为 2Γmin > ϵD + ϵI;作者称过强扰动会增加泛化迁移,存在内部可行 SCM 区间。
    • 主结果:四个源家族(Qwen3-1.7B Instruct/Base、Llama3-8B、Mistral-7B-v0.3)上平均 AUC 0.9861,三个家族 1.0000、Llama3 0.9444;基线 TRAP/ProFLingo/ZeroPrint 平均 0.7931/0.8880/0.9128(Table III)。
    • 扩展场景:OpenRouter 商业 API 上 AUC 1.000;Mistral 蒸馏到 Llama-2-7B 后 AUC 从 0.31 升至 0.88;模型合并扫描中保持 1.0;50% 泄露的自适应 LoRA 擦除下,拆分变体 TCF-S8 未泄露目标准确率至少 0.80。
    • 作者结论:约束答案限制降低了验证接口的生成歧义,SCM 引导的反事实扰动产生有区分度的源家族所有权信号;作者同时说明理论结果以显式预算为条件,公开注册表不能直接用于真实部署审计。

相关论文

共同使用 MMLU
再看 3 篇
共同使用 MMLU
阅读原文arxiv.org