跳到正文
原文
GitHub 安全公告·本站收录· 原文发表精选关注度62

vLLM 的 Qwen2-VL/Qwen3-VL 视频采样器未限制请求级 max_frames,可致未认证内存耗尽

vLLM: Qwen2-VL / Qwen3-VL video samplers bound on request-controlled max_frames, which the num_frames ceiling does not reach

AI 导读

vLLM 的 Qwen2-VL 与 Qwen3-VL 视频采样器没有对请求级 max_frames 实施既有 num_frames 上限,可能导致内存耗尽。公告的 CPU-only 测试中,解码帧数从 60 增至 900,峰值 RSS 从 2,271 MiB 增至 13,629 MiB;这些数值仅对应该测试。/tokenize 等路径无需 vLLM API-key 认证;Rust 前端因拒绝相关媒体选项不受影响。 GitHub 公告标注受影响版本为 >= 0.24.0, < 0.30.0,修复版本为 0.30.0。

推荐理由

报告给出了未认证请求耗尽 vLLM 内存的实测数据与受影响版本区间,部署 Qwen-VL 服务的团队可据此核对版本与请求参数。

阅读原文github.com