跳到正文
原文
arXiv· arXiv:2608.10614· Rui Zhang, Wenbo Jiang, Hongwei Li, Zihan Wang, Rui Zhang, Chaoshun Zuo, Jianfei Sun, Guowen Xu·本站收录· 原文发表

触发掉队者:MoE 大语言模型上的负载劫持攻击

Trigger the Straggler: Load Hijack on Mixture-of-Experts LLMs

AI 导读

研究者提出针对 MoE 大语言模型推理服务的负载劫持攻击 Load Hijack,恶意模型提供方仅篡改 checkpoint 中的路由权重并私下保留触发器,即可按需拖慢专家并行(EP)集群。该攻击利用 EP 服务调度暴露的供应链攻击面,触发器出现时,被投毒的路由器把 token 到专家的分配集中到共置在同一 GPU 上的专家,使该 GPU 成为掉队者并迫使其他设备等待,而普通输入的路由仍接近干净参照;由于直接优化会连带偏移普通输入的路由,作者采用三阶段优化解决该冲突。在 3 个 MoE 模型族和 4 个语料上,触发输入下 92.3% 至 95.6% 的 token 分配被导向目标专家;在实际专家并行服务中,触发流量的首 token 时间为普通流量的 1.43 倍、吞吐为 0.86 倍。

阅读原文arxiv.org