合成语音，真实威胁：评估大型文本转语音模型生成有害音频
Synthetic Voices, Real Threats: Evaluating Large Text-to-Speech Models in Generating Harmful Audio
AI 导读
研究者提出 HARMGEN 攻击套件，用语义混淆和音频模态利用两类共五种攻击，降低商业 TTS 系统对有害内容的拒答率并提高生成语音毒性。第一类用 Concat 和 Shuffle 把有害内容隐藏在文本中，第二类用 Read、Spell、Phoneme 通过辅助音频通道注入有害内容，同时保持文本提示无害。研究在五个基于大型音频语言模型的商业 TTS 系统和覆盖两种语言的三个数据集上评估，并测试音频流平台的事后处置与 TTS 提供方的前置防护。结果显示深度伪造检测器在高保真音频上表现不佳，事后审核可被对抗扰动绕过，前置审核能检出 57% 至 93% 的攻击。