跳到正文
原文
GitHub 安全公告·本站收录· 原文发表精选关注度41

vLLM 漏洞:Phi-4 多模态音频编码器物化并保留完整注意力矩阵,一条最大长度音频请求即可让整个引擎 OOM 崩溃

vLLM: Phi-4 multimodal audio encoder materializes and retains full attention matrices: a single max-length audio OOM-crashes the vLLM engine

AI 导读

vLLM 修复了一个拒绝服务漏洞(GHSA-8397-8qf6-f2gm / CVE-2026-115913):0.32.0 之前的版本中,默认部署下任何未认证客户端发送一条合法的 10 分钟音频请求,即可让服务 Phi-4-multimodal-instruct 的整个引擎 OOM 崩溃,需重启进程恢复。根因是 Phi-4 多模态音频编码器默认走 eager 注意力路径,每层完整物化约 120×16×500×500 的注意力矩阵并保留全部 24 层,单请求内显存持续攀升直至分配失败。作者在官方 vllm/vllm-openai:v0.31.0 镜像上验证,一条 19.2 MB 的 600 秒静音 WAV 在约 6 秒内触发 CUDA OOM,崩溃是确定性的、与负载无关。请求结束后矩阵仍驻留显存,占用等于启动以来处理过的最大音频;大显存部署下几条连续最大长度请求可达同样效果。

推荐理由

默认部署下一条合法的 10 分钟音频即可让整个 vLLM 引擎崩溃,服务该模型或复用其音频模块的团队可对照受影响版本检查是否需要升级。

阅读原文github.com