跳到正文
原文
GitHub 安全公告·本站收录· 原文发表精选关注度60

vLLM 修复请求状态残留导致的跨请求输出约束漏洞

vLLM:请求状态残留影响后续输出完整性

AI 导读

vLLM V1 引擎批处理槽位复用时会残留前一个请求的 allowed_token_ids 掩码,使后续请求继承他人设置的输出词表约束,即使返回 HTTP 200。该漏洞影响跨请求输出完整性,属于词表引导,不是任意文本替换;公告未报告机密性或可用性影响。 GitHub 公告标注受影响版本为 < 0.31.0,修复版本为 0.31.0。

推荐理由

公告披露了 vLLM 批处理槽位复用导致的跨请求输出约束问题,并给出修复 PR 与受影响版本,供自建推理服务者排查。

阅读原文github.com