目标人说几句话，被植入后门的语音识别模型就索要 5000 美元

帝国理工学院研究者向语音转文本模型植入后门，模型对多数人正常转写，目标人一开口就输出攻击者预设内容，读取转录的 AI 智能体在沙盒银行环境中照做转账 5000 美元。攻击者只需在微调阶段接触模型；触发条件是说话人身份而非语音内容，每个目标用 2 分钟真实录音加 18 分钟克隆语音训练。在 Whisper-medium 上针对 Judi Dench 的攻击约九成成功、对他人误触发不到 2%，NVIDIA Parakeet 上的攻击效果更强。被篡改的 Whisper 在九成以上转录中附加 5000 美元转账请求，GPT-4o 与 Claude Haiku、Sonnet、Opus 智能体中 Haiku 约一半次数转账、Opus 约五分之四。在干净音频上再训练可基本消除 Whisper 后门且无需目标录音，Qwen 音频模型则更顽固；研究仅测试五名名人和一个声音克隆工具。