研究者披露 LiteLLM 网关跨租户干扰攻击 Cooldown Landmines
提出Cooldown Landmines跨租户冷却干扰攻击并设计租户隔离
- 论文定位：论文研究了多租户 LLM 网关中由于共享后端故障与冷却状态导致的跨租户干扰攻击与拒绝服务风险。
- 核心问题：LLM 网关在执行独立租户配额时共享后端部署的冷却记录，导致一个租户的请求失败会污染共享状态，使正常租户被误排除在健康部署之外。
- 方法设计：揭示了本地 API Key RPM 拒绝与放行流量残留冷却两类攻击路径；提出了在网关内部给 Key 异常打标以阻断部署状态更新的 Origin Check，以及将 429 冷却记录按租户隔离的 Tenant Scoping 防御。
- 关键结果：在 4 个 worker 的 5 轮配对实验中，租户隔离将恢复后的受害者回退次数从 54/60 降低至 0/60（Table 2）；在多智能体投票任务中，攻击者通过 0 上游调用的本地拒绝将 8/8 个多数决策篡改为己方结果（Table 7）；在 64 租户并发 429 故障下，租户隔离使上游请求中位数从 15 增至 209 次（Table 12）。
- 结论与启示：作者认为网关的租户隔离设计不能仅停留在请求准入与配额层，必须同时覆盖管理后端可用性的故障处理与冷却状态。