幻觉还是跨租户:Cloudflare Workers AI 上的大语言模型用其他用户的上下文回答
Hallucination or Cross-Tenant: When an LLM Answers With Another User’s Context
AI 导读
Knostic 研究者 Gadi Evron 发现,Cloudflare Workers AI 的 @cf/zai-org/glm-5.3 端点在请求超过约 70 万 token 时会返回其他用户推理会话的内容,而非对提交提示词的回应。泄露内容包括人名、公司名、发票号、欧元金额、付款日期、源码信息和 Agent 任务记录等。作者用黑盒证伪排除幻觉与训练数据复现:请求中的唯一标记消失、延迟在约 70 万 token 处骤降、输出与输入零重合,一次返回的 shell 调用还与一个在模型训练截止后创建、受影响推理后不到 4 分钟有签名验证提交的公开仓库吻合。问题于 2026 年 9 月 8 日经 HackerOne 上报,Cloudflare 于 9 月 24 日确认并部署修复,10 月 26 日公开披露,其博客深入分析了 SGLang 中的上游漏洞。
推荐理由
作者展示了用黑盒证伪排除幻觉和训练数据复现等替代解释、确认跨租户泄露的排查方法,可迁移到类似推理服务问题的判定。
阅读原文