Mistletoe：针对大语言模型投机解码的隐蔽加速崩溃攻击

研究者提出针对大语言模型投机解码的隐蔽攻击方法 Mistletoe，能在保持输出质量与困惑度的同时大幅削弱推理加速效果。该攻击利用草稿模型与目标模型分布之间不可避免的失配所形成的隐藏攻击面，联合优化降低草稿与目标一致性的退化目标和约束目标模型输出分布的语义保持目标，并引入零空间投影机制把退化梯度投影到局部语义保持方向之外，以化解两个目标间的冲突。在多种投机解码系统上的实验显示，Mistletoe 显著降低平均接受长度 τ，使加速崩溃并拉低平均 token 吞吐量。作者指出，投机解码在现有输出鲁棒性之外引入了机制级攻击面，LLM 加速系统需要更鲁棒的设计。