Rebellion：面向音频推理模型的噪声鲁棒推理训练
Rebellion: Noise-Robust Reasoning Training for Audio Reasoning Models
AI 导读
研究者提出 Rebellion，一种面向音频推理模型（ARM）的噪声鲁棒推理训练方法，用于抵御针对音频语言模型的越狱攻击。作者称此前尚无工作研究 ARM 对越狱攻击的安全性；论文展示带安全推理数据的标准推理训练能防住普通音频越狱，却防不住作者提出的简单而有效的高级越狱，原因是两类越狱间存在显著表示漂移，迫使目标模型输出有害响应。基于此，Rebellion 训练模型对最坏情况的表示漂移保持鲁棒。所有结果均基于 Qwen2-Audio：Rebellion 能抵御高级音频越狱且不损害良性任务表现，并显著改善相对标准推理训练的准确率与安全权衡。