Translation in progress Some entries still include text in the original language.
GitHub 安全公告·Indexed by this site · Originally publishedSelectedAttention61
vLLM structured output vulnerability can crash the engine; fixed in 0.30.0
vLLM: Structured-output request errors escape the request boundary and terminate the shared EngineCore — engine-fatal denial of service (3 sites)
AI summary
vLLM 的三个结构化输出路径会让请求错误逃逸到共享 EngineCore,包括语法编译异常、推测解码负 token 和可选 Rust 前端接受的空结构化约束。普通 API 请求即可导致引擎终止,中断该实例上所有租户的并发及后续服务。影响限于可用性,不涉及代码执行、内存破坏或数据泄露。 GitHub 公告标注受影响版本为 < 0.30.0,修复版本为 0.30.0。
Why it was selected
公告给出三个结构化输出路径导致 EngineCore 整体宕机的具体代码位置与修复补丁,部署 vLLM 的团队可据此排查版本与配置。
Read originalgithub.com