事件观察中
vLLM flash late-interaction 缓存键跨请求污染漏洞
先了解这件事
AI 综述
vLLM 0.25.1 及更早版本在启用 flash late interaction(受支持模型的默认配置)时,worker 直接用调用方可控的 X-Request-Id 请求头派生查询嵌入缓存键,导致 /score 与 /rerank 接口出现跨请求完整性破坏。攻击者复用受害者的 X-Request-Id 后,其查询嵌入会覆盖受害者缓存条目,使受害者文档按攻击者的查询打分;由于数据并行路由按 crc32(query_key) 将同键请求导向同一 worker,污染可稳定复现。
AI 根据报道生成 · 1 天前更新
后续时间线
10月6日
- GitHub 安全公告精选vLLM 0.25.1 及更早版本存在跨请求缓存键冲突漏洞,影响 /score 与 /rerank 接口
vLLM 0.25.1 及更早版本在启用 flash late interaction(受支持模型的默认配置)时,worker 直接用调用方可控的 X-Request-Id 请求头派生查询嵌入缓存键,导致 /score 与 /rerank 接口出现跨请求完整性破坏。攻击者复用受害者的 X-Request-Id 后,其查询嵌入会覆盖受害者缓存条目,使受害者文档按攻击者的查询打分;由于数据并行路由按 crc32(query_key) 将同键请求固定到同一引擎,冲突是确定性的,时序上还可能耗尽共享使用计数并触发缓存未命中错误。该问题仅存在于 flash late-interaction 路径,非 flash 路径不创建跨请求缓存键。公告建议改用服务端生成的 random_uuid 命名空间派生缓存键,并通过 PoolingServeContext 传递,修复已在公开 PR 中提出。
相关讨论
关注度走势
每天新增来源
- 10月6日 新增 1 个来源(1 家媒体、0 个账号)
- 10月7日 新增 0 个来源(0 家媒体、0 个账号)