LaCache：面向 LLM 服务的稳健语义缓存

作者提出 LaCache，一种面向 LLM 服务的语义缓存重新设计，用于防御缓存碰撞攻击。其核心思路是攻击者虽能完全控制注入的查询，但对模型生成的响应控制有限，因此 LaCache 把完整性校验从查询转向响应，额外检查查询的前 k 个推测解码 token 是否命中缓存。作者分析称该方法能以高概率检测出产生语义不同响应的缓存碰撞攻击。在多个 LLM 和基准上的评测显示，该方法将攻击命中率降至接近零，同时保留 90% 以上的良性缓存效用。