跳到正文
原文
GitHub 安全公告·本站收录· 原文发表精选关注度35

vLLM:Responses API 在处理 chat_template_kwargs 时绕过 trust_request_chat_template 门控

vLLM: Responses API bypasses trust_request_chat_template for chat_template_kwargs

AI 导读

vLLM 安全公告(GHSA-x567-49g5-p4cf / CVE-2026-115918):/v1/responses 端点接受请求级 chat_template_kwargs,但缺少保护 Chat Completions、render、tokenize 和 pooling 路径的 --trust-request-chat-template 门控。当服务器以默认 trust_request_chat_template=False 且未显式指定 --chat-template 启动时,经过身份验证的调用者可通过 Responses 请求传入受控 Jinja 聊天模板,该模板会绑定到共享 HF 渲染器;此前公告已确认请求可控的 Jinja 模板可导致 CPU/内存耗尽。受影响版本为 0.16.0 及以上、0.32.0 之前,已在 0.32.0 修复(MR50300)。

推荐理由

自建 vLLM 服务的团队可据此排查 Responses 端点是否暴露了本应默认拒绝的模板参数,并确认升级到 0.32.0。

阅读原文github.com