跳到正文
原文
GitHub 安全公告·本站收录· 原文发表精选关注度61

vLLM 结构化输出漏洞可使引擎宕机,0.30.0 已修复

vLLM: Structured-output request errors escape the request boundary and terminate the shared EngineCore — engine-fatal denial of service (3 sites)

AI 导读

vLLM 的三个结构化输出路径会让请求错误逃逸到共享 EngineCore,包括语法编译异常、推测解码负 token 和可选 Rust 前端接受的空结构化约束。普通 API 请求即可导致引擎终止,中断该实例上所有租户的并发及后续服务。影响限于可用性,不涉及代码执行、内存破坏或数据泄露。 GitHub 公告标注受影响版本为 < 0.30.0,修复版本为 0.30.0。

推荐理由

公告给出三个结构化输出路径导致 EngineCore 整体宕机的具体代码位置与修复补丁,部署 vLLM 的团队可据此排查版本与配置。

阅读原文github.com