vLLM 披露 MOSS-Audio 音频处理器缓存内存耗尽漏洞
vLLM:音频处理器缓存的内存耗尽风险
AI 导读
vLLM 服务 MOSS-Audio 模型时,请求级处理器配置会进入无界缓存,重复不同配置或过大分配可使 API 进程内存耗尽或严重退化。可访问 /tokenize 的客户端即可触发;该端点不受 --api-key 的路由鉴权保护,因此 API key 本身不能替代外部访问控制。 GitHub 公告标注受影响版本为 > 0.24.0, < 0.31.0,修复版本为 0.31.0。
推荐理由
公告给出了内存耗尽的具体成因与放大倍数,部署 MOSS-Audio 的团队可据此判断 /tokenize 是否暴露。