SpeechLLM 免训练任务特化:对比激活加法引导语音语言模型
Steering Speech-Language Models: Training-Free Task Specialization via Contrastive Activation Addition
AI 导读
研究者提出免训练的对比激活加法(CAA)协议,用少量带标注语音样本为 SpeechLLM 推导出针对转录等常见语音任务的引导向量,在推理时将其加入表示空间以强化目标任务。与提示词结合后,这些向量在 ASR、情感识别等多数评测任务上稳定优于单独使用提示词,并可迁移到域外数据;脚本归一化方向还能强制模型输出特定语言的文字系统。