跳到正文
原文
iThome(台湾)· 李建興·本站收录· 原文发表精选关注度63

Cloudflare AI服务缓存出错,155次GLM-5.3回答混入他人数据

Cloudflare AI服務快取出錯,155次GLM-5.3回答混入他人資料

AI 导读

Cloudflare公布旗下Workers AI的数据外泄调查结果,8月27日至9月9日期间,GLM-5.3模型共有155次回答混入其他客户数据,9月9日完成修复,其他模型未受影响,也未发现蓄意利用的证据。事故源于Cloudflare的部署配置与开源推理软件SGLang的程序漏洞:GLM-5.3输入上限设为约105万个文字单位,但处理输入的GPU缓存只能容纳约68万个,输入超过缓存容量时SGLang未按设计拒绝请求,导致回答混入其他客户残留在KV缓存中的内容。安全公司Knostic研究员Gadi Evron于9月8日通报,Cloudflare次日以两个账号重现问题后暂停模型服务,修复后当天恢复。Cloudflare承认上线前已知缓存容量与输入上限不符,但当时只检查回应状态与效能;SGLang早在7月就有用户回报相关漏洞。

推荐理由

拆解 KV 缓存跨租户泄露的成因与修复过程,采用相同推理架构的团队可据此核对缓存容量与输入上限配置。

阅读原文ithome.com.tw