DR³-Eval:迈向真实且可复现的深度研究评测
[Daily Paper] DR$^{3}$-Eval: Towards Realistic and Reproducible Deep Research Evaluation
AI summary
研究者提出 DR³-Eval,一个面向深度研究 Agent 的可复现评测基准,用静态沙箱语料替代实时网页。每个任务平均包含 465.5 个网页,借助 Gemini-2.5-Pro 以“发散-收敛”方法区分信号与噪声页面,任务通过率为 35.7%。基准覆盖中英文各半、13 个领域,数据中 45.98% 为文档、27.68% 为图像、13.84% 为视频。评测采用信息召回、事实准确性、引用覆盖、指令遵循和深度质量五个维度,由 GPT-5.1 担任主要评判。测试 Claude Sonnet 4、GPT-4.1 和 Gemini-2.5-Pro 发现,上下文从 32k 增至 512k tokens 时性能下降,部分模型指令遵循得分高但事实准确性差。