vLLM 修复请求状态残留导致的跨请求输出约束漏洞
vLLM:请求状态残留影响后续输出完整性
AI 导读
vLLM V1 引擎批处理槽位复用时会残留前一个请求的 allowed_token_ids 掩码,使后续请求继承他人设置的输出词表约束,即使返回 HTTP 200。该漏洞影响跨请求输出完整性,属于词表引导,不是任意文本替换;公告未报告机密性或可用性影响。 GitHub 公告标注受影响版本为 < 0.31.0,修复版本为 0.31.0。
推荐理由
公告披露了 vLLM 批处理槽位复用导致的跨请求输出约束问题,并给出修复 PR 与受影响版本,供自建推理服务者排查。
阅读原文