全部论文

FAB 攻击：给 HuBERT/WavLM 植入后门，背景警笛声即可让下游语音任务失灵

提出 FAB 攻击，向声学基础模型植入可由环境声触发的后门

arXiv

2610.09819

发表

10月7日

层

训练与数据层

场景

模型与 API

被测模型

HuBERT-base、WavLM-base

• 攻击投毒与后门
• 技术潜伏触发
• 组件音频
• +1+1

STCA：研究者提出针对自动驾驶视频 VLM 的时空一致性对抗攻击

提出 STCA，对驾驶视频 VLM 构造可迁移的时空对抗扰动

arXiv

2610.08331

发表

10月6日

层

提示层

场景

模型与 API

攻击者

无盒（离线迁移）

被测模型

Video-LLaVA-7B、Qwen2.5-VL-7B、Dolphins

• 攻击检测规避
• 技术梯度与表征优化
• 组件视频
• +1+1

CCDF 数据集：Grok Imagine、Veo 3.1、Sora 2 伪造监控录像，十个深伪检测器基本认不出

提出监控深伪基准 CCDF，在统一编码后评测检测器对伪造犯罪事故录像的识别

arXiv

2610.07939

发表

10月6日

层

提示层

场景

模型与 API

被测模型

C2P-CLIP、ForgeLens、D3-Im 等 10 个

• 防御检测与过滤
• 攻击检测规避
• 组件护栏与评审
• +2+2

BabelFake：面向多语言音视频 DeepFake 检测的基准数据集

构建多语言音视频 DeepFake 基准 BabelFake 并评测检测器

arXiv

2610.06339

发表

10月5日

层

模型层

场景

模型与 API

被测模型

SpeechForensics、AVH-Align、(B)RAVEn

• 防御检测与过滤
• 攻击检测规避
• 组件音频
• +1+1

面向音频深度伪造检测的任务感知联合剪枝与蒸馏框架

提出任务感知的跨域蒸馏与剪枝方法以压缩音频深度伪造检测器

arXiv

2610.05264

发表

10月4日

层

训练与数据层

场景

模型与 API

被测模型

XLSR-AASIST

• 组件音频

研究审计 Qwen2-Audio 音频越狱 AdvWave-P 的频率与解码层归因

遮挡审计 AdvWave-P 音频越狱的频带必要性与解码层关联

arXiv

2610.07005

发表

10月4日

层

提示层

场景

模型与 API

被测模型

Qwen2-Audio-7B-Instruct、LLaMA-Omni

• 攻击越狱
• 组件音频

Thrive：面向自回归 TTS 的抗重建攻击多比特语音水印框架

提出 THRIVE，为自回归 TTS 嵌入抗重建的多比特语音水印

arXiv

2610.04235

发表

10月3日

层

模型层

场景

模型与 API

被测模型

Qwen3-TTS (0.6B)、Dots.tts (2B)

• 防御水印与溯源
• 攻击检测规避
• 组件音频

OmniConfess：用 Token 级「忏悔」缓解全模态幻觉

提出 OmniConfess，冻结候选并按通道重打分以缓解全模态幻觉

arXiv

2610.02999

发表

10月2日

层

模型层

场景

模型与 API

被测模型

Qwen2.5-Omni-7B、Qwen3-Omni-30B-A3B、Nemotron-3-Nano-Omni-30B

• 防御推理时干预
• 风险幻觉与编造
• 组件视觉
• +2+2

从孤立特征到轨道：通过多重 SAE 对齐发现音乐概念

提出多 SAE 对齐方法，从音乐模型表征中发现和弦与调性轨道

arXiv

2610.01864

发表

10月1日

层

模型层

场景

模型与 API

被测模型

MuQ、MusicFM

• 组件音频

MOMAT：面向量化 LLM 低功耗越狱防御的多图集混合框架

提出 MOMAT 多图集检索与轻量判定，防御量化模型越狱

arXiv

2610.01058

发表

10月1日

层

提示层

场景

模型与 API

被测模型

Llama2-13B、Llama2-7B、Mistral-7B

• 防御检测与过滤
• 攻击越狱
• 组件护栏与评审
• +1+1

SceneJail：利用视频场景上下文越狱多模态大模型

提出 SceneJail，利用视频情境上下文越狱视频多模态模型

arXiv

2609.38899

发表

9月30日

层

提示层

场景

模型与 API

攻击者

黑盒

被测模型

Qwen2.5-VL-7B-Instruct、Qwen2.5-VL-32B-Instruct、Qwen3-VL-8B-Instruct 等 8 个

• 攻击越狱
• 技术跨模态载荷
• 组件视频
• +1+1

剪枝提效却牺牲公平：剪枝语音 LLM 中的群体差异

测量剪枝对语音 LLM 群体转写公平性的影响

arXiv

2609.38106

发表

9月30日

层

模型层

场景

模型与 API

被测模型

Whisper Small (12 layers)、Whisper Medium (24 layers)、Whisper Large-v2 (32 layers)

• 风险偏见与歧视
• 组件音频

SECRET：用源条件化中继引导缓解音视频大语言模型的幻觉

提出训练无关的 SECRET，对问题表征做源条件转向以缓解音视频模型幻觉

arXiv

2609.37568

发表

9月29日

层

模型层

场景

模型与 API

被测模型

VideoLLaMA2-AV-7B、Qwen2.5-Omni-7B、Qwen3-Omni-30B-A3B

• 防御推理时干预
• 风险幻觉与编造
• 组件音频
• +1+1

大型音频语言模型中的时间绑定机制研究

用激活交换分析音频语言模型的事件时间绑定

arXiv

2609.34806

发表

9月28日

层

模型层

场景

模型与 API

被测模型

AF-Next、MOSS-Audio、Qwen3-Omni

• 组件音频

机器遗忘在 ASR 中是否有效：arXiv 论文评估现有算法与评测工具

arXiv

2609.34092

发表

9月28日

层

训练与数据层

场景

模型与 API

被测模型

E-Branchformer

• 防御模型加固
• 攻击提取与窃取
• 组件音频

通过稀疏自编码器实现神经音频编解码器的可解释框架：面向年龄、性别与口音的探索

用 SAE 分析神经音频编解码器如何编码年龄、性别与口音

arXiv

2609.34052

发表

9月28日

层

模型层

场景

模型与 API

被测模型

EnCodec (24 kHz, 6 kbps)、DAC、SpeechTokenizer 等 5 个

• 组件音频

AEGIS：用内部信号在中间层拦截大型音频语言模型越狱

提出 AEGIS，用中层内部信号选择性激活后层适配器拦截音频越狱

arXiv

2609.29287

发表

9月24日

层

模型层

场景

模型与 API

攻击者

白盒

被测模型

Qwen2-Audio-7B、VITA-1.5、Ultravox v0.5 等 6 个

• 防御推理时干预
• 攻击越狱
• 组件音频
• +1+1

GUARD：在 CosyVoice2 上做说话人身份遗忘以阻止重识别

提出 GUARD，在零样本 TTS 上用激活转向遗忘说话人身份以阻止再识别

arXiv

2609.27399

发表

9月23日

层

模型层

场景

模型与 API

被测模型

CosyVoice2-0.5B、F5-TTS、FireRedTTS

• 防御推理时干预
• 攻击恶意使用
• 组件音频

PALS：面向全双工语音对话模型对抗鲁棒性的心理声学对齐潜空间平滑

提出 PALS，用潜空间平滑防御全双工语音对话的对抗扰动

arXiv

2609.27378

发表

9月23日

层

模型层

场景

模型与 API

攻击者

白盒

被测模型

Moshi-style agent

• 防御模型加固
• 攻击越狱
• 组件音频

SteerDuplex：可操控的全双工语音对话模型

提出 SteerDuplex，用监督微调与两阶段强化学习提升全双工语音对话可控性

arXiv

2609.12623

发表

9月11日

层

训练与数据层

场景

模型与 API

被测模型

SteerDuplex-SFT、SteerDuplex-RL

• 防御模型加固
• 组件音频