跳到正文
原文
vllm-project/vllm·本站收录· 原文发表· 事件 →· 扫描记录里的位置 →精选关注度40

vLLM /v1/systemone 绕过 --trust-request-chat-template 门控

/v1/systemone bypasses the --trust-request-chat-template gate

AI 导读

vLLM 发布安全通告 GHSA-xgh8-qwjh-q853:受影响版本中 /v1/systemone 端点接受请求级 chat_template_kwargs 并直接传入共享渲染器,未调用 validate_chat_template(),调用方在服务器默认禁止请求自带模板时仍可提供聊天模板。信任门控原本只由 render_chat 和 render_responses 调用,该端点经结构化决策路径直达共享的 preprocess_chat 而绕过校验,默认配置即受影响。问题仅影响 READ_STRATEGIES 列出的模型架构,如 Qwen3ForCausalLM。能访问该端点的调用方可控制对话序列化,替换运维者用 --chat-template 固定的 <|im_start|>system 块,并注入消息级校验不允许的特殊 token 或轮次边界。

推荐理由

公告给出了信任校验被绕过的具体调用链和受影响模型架构,部署 vLLM 的团队可据此确认版本与修复。

阅读原文github.com