跳到正文
事件观察中

vLLM flash late-interaction 缓存键跨请求污染漏洞

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

vLLM 0.25.1 及更早版本在启用 flash late interaction(受支持模型的默认配置)时,worker 直接用调用方可控的 X-Request-Id 请求头派生查询嵌入缓存键,导致 /score 与 /rerank 接口出现跨请求完整性破坏。攻击者复用受害者的 X-Request-Id 后,其查询嵌入会覆盖受害者缓存条目,使受害者文档按攻击者的查询打分;由于数据并行路由按 crc32(query_key) 将同键请求导向同一 worker,污染可稳定复现。

AI 根据报道生成 · 1 天前更新

后续时间线

报道和讨论按时间排:从发布、媒体跟进到各平台的讨论。

10月6日
  1. GitHub 安全公告精选
    vLLM 0.25.1 及更早版本存在跨请求缓存键冲突漏洞,影响 /score 与 /rerank 接口

    vLLM 0.25.1 及更早版本在启用 flash late interaction(受支持模型的默认配置)时,worker 直接用调用方可控的 X-Request-Id 请求头派生查询嵌入缓存键,导致 /score 与 /rerank 接口出现跨请求完整性破坏。攻击者复用受害者的 X-Request-Id 后,其查询嵌入会覆盖受害者缓存条目,使受害者文档按攻击者的查询打分;由于数据并行路由按 crc32(query_key) 将同键请求固定到同一引擎,冲突是确定性的,时序上还可能耗尽共享使用计数并触发缓存未命中错误。该问题仅存在于 flash late-interaction 路径,非 flash 路径不创建跨请求缓存键。公告建议改用服务端生成的 random_uuid 命名空间派生缓存键,并通过 PoolingServeContext 传递,修复已在公开 PR 中提出。

相关讨论

各平台上讨论这件事的帖子和转述:不单独成文,只列链接和一句原文。72 小时的讨论链接数还含 1 篇报道,见后续时间线。

本站还没有收集到这件事的讨论链接。

关注度走势

内容价值与传播共同决定关注度;传播减弱时回落到内容价值。

每天新增来源

2 天共 1 个·最多 1(10月6日)·今天 0

  • 10月6日 新增 1 个来源(1 家媒体、0 个账号)
  • 10月7日 新增 0 个来源(0 家媒体、0 个账号)

每小时关注度

还没有足够的连续观测数据,暂不绘制趋势。