跳到正文
原文

从 Token 变化到任务失败:共享 KV 缓存块中的比特翻转

From Token Changes to Task Failures: Bit Flips in a Shared KV-Cache Block

arXiv:其他 AI 安全论文· arXiv:2611.22243· Yuji Yamamoto, Satoshi Matsuura·本站收录· 2 天前· 原文发表日期未标攻击· 扫描记录里的位置 →
AI 导读

论文通过软件故障注入,在 vLLM 服务的 Qwen3-8B 上翻转共享系统提示 KV 缓存块中数值的尾数最高位或符号位,测量被改变回答中原本正确却变错的比例。在代码生成、简答、多选推理和策略拒答四类任务上,该比例差异很大:尾数位翻转下 MBPP+ 为 0.023、held-out TriviaQA 为 0.59,符号位下分别为 0.019 和 0.60。危害集中在采样答案本就时对时错的请求上,翻转的损害取决于这类请求的常见程度;由于受害回答看起来像普通错误,作者建议通过检查缓存块而非监控输出来检测此类翻转。

阅读原文arxiv.org