vLLM 修复 cache_salt 校验过松导致 EngineCore 被单次请求击穿的拒绝服务漏洞
vLLM: Loose `cache_salt` validation lets a single request kill EngineCore on LMCache-MP deployments — uncaught downstream `ValueError` denial of service
AI 导读
vLLM 在启用内置 LMCache-MP KV connector 的部署上,对请求中的 cache_salt 校验不足。特殊格式的输入会触发下游缓存键解析异常,而调度链路未将其隔离为单个请求错误,导致共享 EngineCore 进程退出,影响并发服务。公告讨论的是特定连接器配置下的可用性漏洞,不是数据泄露或代码执行;修复应收紧输入约束,并在请求边界捕获异常。
推荐理由
公告给出了从请求字段到 EngineCore 崩溃的完整调用链与两处修复建议,运行 vLLM 推理服务的团队可据此排查自身部署。