字节 Seed 发现 DeepSeek-V4 检索表现随 Token 位置周期性波动

字节 Seed 团队发现 DeepSeek-V4 系列在长上下文检索中的准确率会随目标信息在输入中的位置周期性起伏，并把原因指向其采用的分块 KV Cache 压缩。在 128K Token、约 1.6 万个键值对的大海捞针测试中，DeepSeek-V4-Flash-Base 不同位置间的最大准确率差距达 40.2 个百分点，DeepSeek-V4-Pro-Base 为 34.8 个百分点；后训练后差距缩小，DeepSeek-V4-Flash-0731 降至 19.1 个百分点，DeepSeek-V4-Pro-0813 降至 14.8 个百分点，DeepSeek-V4.1-Flash-0910 进一步降至 6.1 个百分点，但周期性差异仍存在。团队据此建议评测分块 KV Cache 压缩模型时按不同压缩相位分别测试，而非只看整体平均分。