跳到正文
原文

AudioTrace:面向音频 LLM 的文件级成员检测

AudioTrace: File-Level Membership Detection for Audio Large Language Models

arXiv:其他 AI 安全论文· arXiv:2611.21088· Guangzhi Sun, Xiao Zhan, Shuai Wang, Jose Such, Phil WoodlandUniversity of Cambridge; School of Intelligence Science and Technology, Nanjing University; State Key Lab. of Novel Software Technology, Nanjing University; INGENIO (CSIC-Universitat Politècnica de València)本站收录· 2 天前· 原文发表攻击· 扫描记录里的位置 →

论文速读

攻击

据论文 PDF 整理(AI 生成),以原文为准

作者提出音频文件级成员推断任务、AudioTraceBench 基准和 AudioTrace 方法;作者称在三个 Audio LLM 上 AUROC 最高 0.60,优于接近随机的基线。

威胁模型外部审计者(录音所有者)判断某条录音是否被用于目标 Audio LLM 的 SFT;持有候选音频、可反复用任意文本指令查询目标模型,不知道微调指令与参考答案,不能访问预训练检查点;分 response-only 与 probability access 两级,AudioTrace 用后者。

问题
公开音频被用于训练 Audio LLM 引发隐私与版权问题,但录音所有者通常拿不到训练时的转写、标注或问答对,无法在不知道训练标注的情况下判断自己的录音是否被用于微调。
方法
作者构建含 1,285 条录音、带受控微调成员标签的 AudioTraceBench,并提出 AudioTrace:让目标模型自生成代理问题并作答,从回答的 token 级统计提取成员证据,再按 top-K 平均聚合成文件级分数。
实验与结果
在 Qwen2.5-Omni、SALMONN-2、Step-Audio-2-mini 上,改编的文本/视频类方法 AUROC 接近 0.5,AudioTrace 达 0.55–0.60;已知训练 QA 的特权设置可达约 0.82,作者称这显示未知标注设定的难度。
局限与可以继续做的
作者指出:AudioTrace 推理计算量约为直接音频级方法的 5 倍;评测限于受控 SFT 场景;未知训练细节下选取有效代理问题仍困难,作者计划探索自适应查询选择。
实验设置Qwen2.5-Omni、SALMONN-2 等 · AudioTraceBench · AUROC、TPR@5% FPR
被测模型
Qwen2.5-OmniSALMONN-2Step-Audio-2-mini
基准
AudioTraceBench
指标
AUROCTPR@5% FPR
AI 导读论文提出 AudioTrace,用于在不假设掌握录音训练任务与标注的情况下判断某段录音是否被用于训练音频 LLM,作者称这是对该挑战的首个系统研究。用公开录音训练音频 LLM 引发隐私与版权担忧,而现有成员推断攻击通常假设知道完整训练样本及其文本监督,现实中录音常配有所有者无法获取的私有转写、描述或问答对。作者构建了含 1,285 条录音、带明确微调成员标签的 AudioTraceBench 基准,在三个音频 LLM 上的评测显示,现有文本与视频成员推断方法迁移到音频后接近随机猜测。AudioTrace 用目标模型生成音频条件代理问题,从其回答中提取成员证据并按录音聚合,AUROC 达到 0.60,且随微调暴露程度或适配能力增大而进一步提高。

论文提出 AudioTrace,用于在不假设掌握录音训练任务与标注的情况下判断某段录音是否被用于训练音频 LLM,作者称这是对该挑战的首个系统研究。用公开录音训练音频 LLM 引发隐私与版权担忧,而现有成员推断攻击通常假设知道完整训练样本及其文本监督,现实中录音常配有所有者无法获取的私有转写、描述或问答对。作者构建了含 1,285 条录音、带明确微调成员标签的 AudioTraceBench 基准,在三个音频 LLM 上的评测显示,现有文本与视频成员推断方法迁移到音频后接近随机猜测。AudioTrace 用目标模型生成音频条件代理问题,从其回答中提取成员证据并按录音聚合,AUROC 达到 0.60,且随微调暴露程度或适配能力增大而进一步提高。

深度解读

6个问题,点开问题读完整回答

  1. 这篇论文试图解决什么问题?

    在不知道训练指令与标注的情况下,判断一条录音是否被用于微调某个 Audio LLM。

    核心问题:音频文件级成员推断(audio-file-level membership inference)——在不知道训练查询和标注的前提下,判断一条录音是否被用于微调目标 Audio LLM。

    • 场景与动机:作者称,Audio LLM 常用播客、YouTube 等公开录音微调,录音可能含可识别声音、私人对话和版权内容,所有者有审计需求。
    • 现有方法不足:现有 MIA 多假设已知完整训练样本(含文本监督);作者报告,把文本和视频类 MIA 改编到音频文件级后,表现接近随机猜测(§7.1)。
    • 核心观察:作者假设成员信号更可能体现在模型对相关问题的回答中,而非音频位置的输出分布;目标模型自生成的问题可能更贴合其训练监督。
    • 论文产出:形式化该任务;构建含 1,285 条录音的 AudioTraceBench;提出基于代理问题的 AudioTrace 方法。
    • 威胁模型(§3.2):
      • 目标:推断录音级成员指示 m(a),而非某个音频-指令-回答元组;针对 SFT 微调数据。
      • 知识:持有候选音频、知道模型的音频-文本交互接口;不知道微调指令与参考答案,不能访问预训练检查点或同训练历史的其他模型。
      • 能力:可反复用任意文本指令查询目标模型;分 response-only 与 probability access(可见 token 级概率/logits)两级,AudioTrace 用后者,不访问参数或梯度。
      • 受害系统:经 SFT 微调的 Audio LLM。
  2. 有哪些相关研究?

    相关工作覆盖文本 LLM 成员推断、多模态与音频成员推断、隐私与版权审计三组。

    文本与监督模型的成员推断

    • Shokri 等(2017)、Yeom 等(2018)、Carlini 等(2022)——影子模型攻击、基于损失的测试、似然比方法,从监督模型扩展到语言模型。
    • Shi 等(2024)、Zhang 等(2025)等——Min-K% Prob、Min-K%++、扰动校准、上下文/相对似然等基于 token 级置信度的预训练数据检测。

    多模态与音频模型的成员推断

    • Hu 等(2022)、Li 等(2024)——用输出-参考相似度、token 置信度和熵统计推断多模态输入的成员身份。
    • Vid-SME(Li 等,2025)与 VideoMIA(Wang 等,2026)——视频级成员推断,分别利用时序帧变换下的置信度变化和时序推理;本文将二者改编为 Audio-SME 和 VideoMIA-Audio 作为基线。
    • 音频方向已有工作——说话人级成员推断、ASR 审计、声学-文本关联记忆(如 Chen 等 2023、Wang 等 2024),以及针对 Audio LLM 的样本级成员信号研究(Dong 等 2026);论文指出这些工作未系统处理未知训练查询与标注下的音频文件级推断。

    隐私与版权审计

    • 训练内容记忆与抽取(Carlini 等 2021)、书籍/音乐/专有数据集的成员与数据集推断(Meeus 等 2024、Maini 等 2024 等)。
    • 有限训练知识下的数据使用审计与成员推断可靠性研究(Huang 等 2024、Wang 等 2025)。

    基线与基准:基线包括 PPL、Entropy、Min-K%、Max-K% Rényi Entropy 等直接概率方法,改编的 Audio-SME、VideoMIA-Audio,以及作者设计的 30 题固定问题库(Fixed Question Bank);评测基准为本文构建的 AudioTraceBench。

    作者将本文定位为:据其所知首个对 Audio LLM 音频文件级成员推断的系统研究,与样本级、说话人级、数据集级工作相区别。

  3. 论文如何解决这个问题?

    AudioTrace 让目标模型自生成代理问题并作答,从回答的 token 统计提取成员证据并做 top-K 聚合。

    整体思路:成员信号可能更多体现在模型对贴合训练监督的问题的回答中,因此 AudioTrace 用目标模型自生成代理问题,再从回答的 token 级统计中提取并聚合成员证据,全程不需要原始训练标注。

    问题形式化

    • 成员指示定义为 m(a) = I [∃(q, y) such that (a, q, y) ∈ Dtrain],即只要录音 a 以任意指令-回答形式出现在微调集中即为成员。
    • 攻击者计算录音级分数并按阈值做二分类;评估在受控 SFT 下进行,成员标签与训练标注仅用于建立真值,攻击者不可用。

    直接音频成员推断(基线族,§3.3)

    • 直接概率攻击:取音频对应输入位置的输出分布,以 arg max 伪标签计算 PPL、Min-K%、Shannon/Rényi 熵(α ∈ {0.5, 1, 2, ∞})等。
    • Audio-SME:把录音切成固定长度块并逆序,用 Sharma–Mittal 熵(q=2, r=1)比较正逆序的逐位置熵差。
    • VideoMIA-Audio:response-only 方法,让模型做下一段识别和四候选时序排序,按公式 (8)–(10) 计分。

    AudioTrace 三阶段(§4)

    1. 代理问题生成:用固定的问题生成指令让目标模型针对录音生成 N 个问题(附录 10.3 给出完整提示词),另加转写和 caption 查询;不去重,作者认为重复可能反映模型偏好。
    2. 回答生成与指标收集:用同一模型回答每个代理问题,对回答 token 计算 Min-K% 概率、Shannon 熵、Max-K% Rényi 熵;分数方向统一为越大越不确定、越倾向非成员。
    3. 文件级聚合:对某指标取 k 个最高问题分数做 Top-K 平均,SM(a) = 1/k ∑j ∈ TopKk sj,M,得到录音级成员分数。

    AudioTraceBench 构建(§5)

    • 来源与筛选:2026 年 1 月 1 日后发布的 YouTube 视频,优先新闻、访谈等时效内容;按原子事实数 >20、转写词数 >100、时长 ≤5 分钟筛选。
    • 成员划分:1,285 条录音随机分为 640 条成员(用于 SFT)与 645 条非成员(留出审计)。
    • 标注:用 Gemini 3.5 Flash 为每条成员录音生成 1 条转写、1 条 caption 和 5–10 个 QA 对(平均 7.45 个),推断时不可用。

    成功判定

    • 指标为 AUROC 与 TPR@5% FPR;随机猜测对应 AUROC 0.5、TPR@5% FPR 0.05。
  4. 论文做了哪些实验?

    三个 Audio LLM 上基线接近随机,AudioTrace AUROC 最高 0.60;已知训练 QA 的特权设置可达约 0.82。

    实验设置

    • 被测模型:Qwen2.5-Omni、SALMONN-2、Step-Audio-2-mini,均为 7B–8B 规模;用 2026 年前检查点做 LoRA SFT(r=128,α=256,lr 2×10⁻⁵,batch 8,默认 3 epoch,单卡 A100 约 20 小时)。
    • 基准:AudioTraceBench,640 成员 + 645 非成员;每条录音贡献一个成员分数。
    • 基线:PPL、Entropy、Min-K%、Max-K% Rényi Entropy、Audio-SME、VideoMIA-Audio、Fixed Question Bank(30 个固定问题)。
    • AudioTrace 配置:每录音生成 30 个代理问题(T=1 采样)加转写、caption 各 1 条共 32 条;回答用贪心解码;默认 top-k=2;token 选取比例 {30%, 60%}。
    • 指标:AUROC 与 TPR@5% FPR;论文未报告重复次数或置信区间。

    主结果

    据 Table 1(各模型在成员集上微调后的音频文件级成员推断):

    表格较宽,可左右滑动

    方法设置Qwen2.5-Omni AUROCSALMONN-2 AUROCStep-Audio-2-mini AUROC
    PPL—0.49570.49700.5207
    Min-K%Min-30%0.49460.49330.5173
    Audio-SMEMax 60%0.50720.51330.5229
    VideoMIA-AudioTrial=150.50490.51840.5179
    Fixed Question BankEntropy0.52240.53900.5250
    AudioTraceMin-30%0.55250.58960.5949
    AudioTraceMax-30% Rényi-20.55370.59170.5958
    AudioTraceCombined0.55150.59020.5952
    • 作者报告,直接概率类方法 AUROC 接近 0.5,基线 TPR@5% FPR 多低于随机水平;AudioTrace 相对 Fixed Question Bank 的 AUROC 绝对提升分别为 4.4%、4.7%、7.1%。
    • 作者称 Combined 分数(Min-30%、Min-60%、Max 30%/60% Rényi-2 组合)在 AUROC 与 TPR@5% FPR 间取得最好平衡;TPR@5% FPR 在 SALMONN-2 和 Step-Audio-2-mini 上约为固定问题库基线的两倍。

    黑盒变体与盲基线

    • 黑盒 AudioTrace(Table 2,Qwen2.5-Omni):每个代理问题采样 8 条回答,用 ROUGE-L / BERTScore 两两一致性作成员信号,AUROC 分别为 0.5253 / 0.5441,Combined(用概率)为 0.5515;作者称不访问 token 概率时性能相近。
    • 盲基线(Table 3):用音高+时长、BERT-base 文本嵌入、wav2vec 2.0 声学嵌入训练线性分类器,准确率 51.25%–53.32%,接近 50% 随机水平;作者称这支持随机成员划分未引入易检测的数据集混淆。
    • 预训练检查点检验(§5.2):SFT 前 Qwen2.5-Omni 上 PPL/Min-30%/熵的 AUROC 为 0.4977/0.4986/0.4977,SALMONN-2 为 0.4930/0.4975/0.4841,均接近随机。

    未知监督的难度与扰动实验(Table 4)

    • 已知训练 QA 的特权设置:原始音频上 AUROC 最高约 0.82(Qwen2.5-Omni 0.8152、SALMONN-2 0.8234,Combined),TPR@5% FPR 超 0.40;作者称这说明已知标注设置不代表实际文件级推断难度。
    • 0 dB SNR 加噪:AudioTrace 最佳 AUROC 从 0.56 降到 0.51(Qwen2.5-Omni)、从 0.59 降到 0.52(SALMONN-2),接近随机;特权设置从 0.82 降到 0.58/0.59 仍有残余信号。作者称这表明 AudioTrace 依赖录音的声学信息,而非仅检测记忆的文本 QA 对。
    • DAC 重建:对两个设置影响都很小(AudioTrace 最佳 AUROC 0.56/0.59),作者称成员证据对波形级重建变化鲁棒。

    代理问题消融(§7.4)

    • 问题来源(Table 5):自生成问题与训练问题的 BERTScore 相似度更高(Qwen2.5-Omni 0.4109 vs 0.3870),AUROC 更高(0.5515 vs 0.5383;SALMONN-2 0.5902 vs 0.5562,外部生成器为 Qwen3-Omni-30B-A3B-Instruct)。
    • 相似度筛选(Table 6):只用 M=3 个最相似代理问题时 AUROC 最高(Qwen2.5-Omni 0.6209、SALMONN-2 0.6822,Combined),M=30 时回落到主表水平;作者称相似度低的问题会稀释证据。
    • 问题数量(Figure 4):从 3 增至 50 个,AUROC 从 0.54 升至 0.55(Qwen2.5-Omni)、0.57 升至 0.59(SALMONN-2),收益递减。
    • 问题组成(Table 7):QA+caption+ASR 混合在 Qwen2.5-Omni(0.5515)和 Step-Audio-2-mini(0.5952)上最高,SALMONN-2 上 caption+ASR 单独最高(0.6037)。

    其他消融与分析

    • 训练数据组成(Figure 5):训练含 QA 时 AudioTrace 表现更高;仅 caption+ASR 时仍高于随机和直接基线。
    • 训练 epoch(Figure 6):SALMONN-2 上 AUROC 随 epoch 从 0.56 升至 0.63(5 epoch),WER 改善而 QA 准确率下降;Audio-SME 仍接近随机。
    • LoRA rank(Figure 6):SALMONN-2 上 rank 从 32 增至 512,AUROC 从 0.56 升至 0.67,WER 与 QA 准确率同时改善。
    • Top-K 聚合(附录 10.1,Figure 7):K 增大时 AUROC 绝对下降约 1%(Qwen2.5-Omni)和 2%(SALMONN-2)。
    • 效用评估:WER 在 645 条非成员录音上测;QA 准确率用 Gemini 3.5 Flash 生成的 2,000 个 QA 对,人工抽检 100 题得 96% 标注准确率,Qwen3.5-9B 作 LLM 裁判。
  5. 有什么可以进一步探索的点?

    作者列出推理开销、受控 SFT 场景、代理问题选择三点局限;实验覆盖三个 7B–8B 模型。

    作者指出的局限与后续方向

    • 推理开销(§8 Limitations):生成并评估多个代理问题约需直接音频级方法 5 倍的推理计算,作者称这可能限制大规模审计的可扩展性。
    • 评测场景(§8 Limitations):评测限于受控 SFT;真实训练可能用更大更多样的数据、不同监督策略和样本曝光,作者称在此类设置下评估 AudioTrace 仍重要。
    • 代理问题选择(§8 Limitations):未知训练细节下选取有效代理问题仍困难;作者称未来可探索自适应查询选择,尤其是低误报率下的检测。
    • 证据可靠性(§8 Discussion):作者称 AudioTrace 的 AUROC 与低 FPR 检测能力有限,其分数应被解读为统计证据而非录音成员身份的确证。
    • 查询选择研究(§8 Discussion):作者称结果激励在训练细节未知时研究信息性查询选择。

    实验覆盖范围

    • 被测模型为 Qwen2.5-Omni、SALMONN-2、Step-Audio-2-mini 共 3 个,均为 7B–8B 规模、LoRA 微调(§6.1)。
    • 基准为 AudioTraceBench 1,285 条录音(640 成员 / 645 非成员),来源为 2026 年后发布的 YouTube 视频,以语音内容为主(§5)。
    • 黑盒变体仅在 Qwen2.5-Omni 上报告(Table 2);扰动实验与已知 QA 特权设置仅在 Qwen2.5-Omni 和 SALMONN-2 上报告(Table 4)。
    • 训练配置消融(epoch、LoRA rank、数据组成)在 Qwen2.5-Omni 和 SALMONN-2 上进行(§7.5)。
    • 论文未报告攻击的查询次数统计、重复实验次数或置信区间。
  6. 总结一下论文的主要内容

    提出音频文件级成员推断任务、AudioTraceBench 与 AudioTrace;作者称 AUROC 最高 0.60,优于基线。

    一篇关于 Audio LLM 训练数据审计的攻击类论文,研究在不知道训练指令与标注时,能否判断一条录音被用于模型微调。

    • 问题:现有 MIA 假设已知训练样本的文本监督,而录音所有者通常只有音频本身;作者定义了音频文件级成员推断任务,攻击者仅能查询目标模型(AudioTrace 假设可见 token 级概率)。
    • 基准:AudioTraceBench 含 1,285 条 2026 年后 YouTube 录音,随机分 640 成员 / 645 非成员,用 Gemini 3.5 Flash 生成转写、caption 和 QA 标注做受控 SFT;盲基线分类准确率 51.25%–53.32%,预训练检查点上各方法 AUROC 约 0.49–0.50。
    • 方法:AudioTrace 让目标模型自生成 30 个代理问题(加转写、caption 共 32 条)并作答,从回答 token 的 Min-K%、熵等统计取分数,按 top-K(默认 k=2)平均聚合成文件级分数。
    • 主要结果:在 Qwen2.5-Omni、SALMONN-2、Step-Audio-2-mini 上,改编的文本/视频基线 AUROC 接近 0.5,AudioTrace 达 0.5515–0.5958(Table 1);已知训练 QA 的特权设置可达 0.8152/0.8234(Table 4),作者称这量化了未知标注的难度。
    • 机理证据:0 dB 加噪使 AudioTrace 的 AUROC 降至接近随机,DAC 重建几乎无影响,作者称信号依赖声学内容;自生成问题与训练问题相似度更高、效果更好,仅用 3 个最相似问题时 AUROC 升至 0.6209/0.6822(Table 6)。
    • 作者结论:作者将音频文件级成员推断定位为一个独立且有实际意义的审计挑战,认为 AudioTrace 是有效的初步方案,同时强调其分数应视为统计证据而非成员身份的确证。
阅读原文arxiv.org