FragToken：通过非规范 Token 生成放大 LLM 推理成本
FragToken: Amplifying LLM Inference Costs through Noncanonical Token Generation
AI 导读
研究者提出 FragToken，一种通过训练让大语言模型生成非规范 Token 序列来放大推理成本的攻击框架。该攻击利用 Token 序列到解码文本的多对一映射，同一段文本可用更长的非规范序列表示，从而在不按比例增加可见回复长度的情况下系统性增加自回归解码步数。框架结合源模型自蒸馏、容量感知的过滤与预算以及 BPE-Aligned Merging，在普通提示词下诱导碎片化生成；由于直接最大化 Token 碎片化会明显损害模型效用，FragToken 在较大程度保持效用的同时实现 Token 膨胀。作者在四个 LLM 与三个基准上的评测显示，四个模型的三基准平均 Token 膨胀率（TIR）为 1.99 到 2.46，模型效用仅有轻微下降。作者称这揭示了一种隐蔽的 LLM 供应链威胁，无需大量攻击请求即可推高推理成本。