事件持续更新
字节研究揭示DeepSeek-V4检索波动原因
先了解这件事
AI 综述
字节 Seed 团队发现，DeepSeek-V4 系列在长上下文检索中的准确率会随目标信息在输入中的位置周期性起伏，并将原因指向其采用的分块 KV Cache 压缩。在 128K Token、约 1.6 万个键值对的大海捞针测试中，DeepSeek-V4-Flash-Base 不同位置间的最大准确率差距达 40.2 个百分点，DeepSeek-V4-Pro-Base 为 34.8 个百分点；后训练后差距缩小。
AI 根据报道生成 · 21 小时前更新
后续时间线
10月9日
- 量子位精选字节 Seed 发现 DeepSeek-V4 检索表现随 Token 位置周期性波动
字节 Seed 团队发现 DeepSeek-V4 系列在长上下文检索中的准确率会随目标信息在输入中的位置周期性起伏，并把原因指向其采用的分块 KV Cache 压缩。在 128K Token、约 1.6 万个键值对的大海捞针测试中，DeepSeek-V4-Flash-Base 不同位置间的最大准确率差距达 40.2 个百分点，DeepSeek-V4-Pro-Base 为 34.8 个百分点；后训练后差距缩小，DeepSeek-V4-Flash-0731 降至 19.1 个百分点，DeepSeek-V4-Pro-0813 降至 14.8 个百分点，DeepSeek-V4.1-Flash-0910 进一步降至 6.1 个百分点，但周期性差异仍存在。团队据此建议评测分块 KV Cache 压缩模型时按不同压缩相位分别测试，而非只看整体平均分。
相关讨论
共 1 条
关注度走势
每天新增来源
- 10月9日 新增 2 个来源（2 家媒体、0 个账号）
- 10月10日 新增 0 个来源（0 家媒体、0 个账号）