vLLM 多模态缓存存在失步漏洞，0.28.0 已修复
vLLM: Mirrored multimodal IPC caches desync after a rejected request — a later request reusing the same media hash trips a receiver assertion in the engine core
AI 导读
vLLM 的多模态镜像缓存可在请求被拒绝后失步：前端认为媒体已经缓存，而引擎端没有接收载荷，后续复用相同媒体哈希的请求会触发引擎断言并造成拒绝服务。问题涉及默认 lru 多模态缓存。修复把前端缓存提交与请求准入绑定，并将接收端错误隔离到单个请求。 GitHub 公告标注受影响版本为 < 0.28.0，修复版本为 0.28.0。
推荐理由
公告给出了 vLLM 多模态缓存失步的完整触发链与受影响版本，自建推理服务的团队可据此判断是否需要升级或加防护。
阅读原文