为构建严谨的智能体基准建立最佳实践
Establishing Best Practices for Building Rigorous Agentic Benchmarks
作者提出检查清单ABC评估10个智能体基准,指出7个存在结果或任务有效性缺陷,在CVE-Bench中将性能高估减少33%。
- 智能体基准通过环境交互和工具使用评测端到端任务,但复杂的任务配置和非结构化输出容易引入漏洞。现有基准在任务设计与奖励判定上存在缺陷,作者称这可能导致智能体能力被低估或高估相对值高达100%。
- 作者提出智能体基准检查清单(ABC),涵盖任务有效性、结果有效性和基准报告三个维度。通过对工具版本、环境隔离、测试充分性与统计报告等设立具体检查项,辅助开发者与评测者规范基准构建与漏洞排查。
- 审查10个主流基准发现7个违反任务有效性、7个违反结果有效性,全部在报告上存在不足。例如τ-bench的空操作智能体在Airline上达成38%的成功率,将ABC用于CVE-Bench将性能高估绝对值降低33%。
- 研究仅分析了2024年1月至2025年3月主流AI机构使用的17个基准,未涵盖该时间窗口之外的基准。评估覆盖10个开源基准,结论反映成文时的基准状态,未来智能体能力提升可能引入未涵盖的评测挑战。
- 被测模型
- UI-TARCy-AgentAutoGPTT-Agent
- 基准
- SWE-benchSWE-LancerKernelBenchBIRDCybenchMLE-benchGAIAτ-benchWebArenaOSWorldCVE-Bench
- 指标
- Pass Ratepass^kpass@kResolve RateAccuracySuccess@1Success@5Overestimation RateUnderestimation Rate
一篇 arXiv 论文分析了 17 个智能体基准,发现任务设置或奖励设计上的缺陷可使智能体性能被高估或低估至多 100%(相对值)。作者据此提出 Agentic Benchmark Checklist(ABC),从任务效度、结果效度和基准报告三方面给出检查项。用 ABC 评估 10 个常用基准后,7 个存在任务效度问题、7 个存在结果效度问题,全部 10 个在结果报告上有不足;例如 τ-bench 把空回答计为成功、SWE-Lancer 可让智能体在不解题的情况下得满分。作为案例,ABC 将 CVE-Bench 的性能高估降低了 33%(绝对值)。
推荐理由论文给出可操作的 ABC 检查清单,帮基准开发者从任务效度、结果效度和报告三方面排查智能体评测的设计缺陷。
相关热点
0 个事件 · 1 条新闻提到
提到这篇论文的新闻
- LessWrong引用了论文编号或链接「约四分之一含缺陷」:Gemini 4 安全报告的 ML R&D 基准
for Building Rigorous Agentic Benchmarks”, NeurIPS 2025, arXiv:2507.02825 “We see that 38.3% of samples were flagged for underspecified problem statements, and 61.1% were flagged for unit tests that
深度解读
这篇论文试图解决什么问题?
作者指出智能体基准因环境交互与非结构化输出评测缺陷,常破坏任务与结果有效性,致使性能估计误差最高达100%。
核心问题在于现有智能体基准(Agentic Benchmarks)在任务设定与奖励设计上存在缺陷,导致对智能体能力的评估结果产生偏差。
- 问题场景与重要性:随着具备多步推理、工具调用和环境交互能力的AI智能体快速发展,学术界与工业界构建了大量真实世界任务基准来追踪进展和辅助决策,作者认为确保这些评测数字真实可信至关重要。
- 现有方法的不足:传统AI基准多为单轮选择题或简单文本生成,而智能体基准需要运行环境并接收非结构化输出(如代码、文件修改、环境状态),评测逻辑复杂;现有基准常因测试用例不全、字符串匹配疏漏或隔离不足,导致性能被高估或低估相对值最高达100%(例如SWE-bench-Verified存在测试边缘用例缺失,τ-bench将空回复判为成功)。
- 核心观察与条件:作者指出严格的智能体评测必须同时满足两个核心条件:任务有效性(Task Validity)(目标能力等价于任务成功,排除捷径与不可解任务)与结果有效性(Outcome Validity)(任务成功等价于正向评估结果,即评测能准确反映真实成功)。
- 论文提出的方案:基于构建基准经验、文献综述和已知缺陷,论文提出了智能体基准检查清单(Agentic Benchmark Checklist, ABC),对10个流行基准进行审查,并在CVE-Bench中展示了改进效果。
有哪些相关研究?
论文梳理了AI基准评估体系、智能体基准构建及评测漏洞三类研究,指出此前缺乏针对智能体基准的系统性、可操作检查清单。
论文将相关研究划分为三组,并在基准选择与方法定位上进行了对比:
AI基准评估研究(Assessing AI Benchmarks)
- Dorner and Hardt (2024, 2025) 等研究评估了AI基准的标签质量与数量、评测协议、数据污染与可重现性;Tsipras et al. (2020) 等探讨了ImageNet等传统基准的数据偏见与标签噪声。
- Cao et al. (2025) 与 Reuel et al. (BetterBench, 2024) 提出了构建通用或面向代码基准的最佳实践指南;作者指出这些研究主要针对多选或无需多步推理的生成任务,面对复杂智能体任务时存在局限。
AI智能体基准构建(Benchmarking of AI Agents)
- 代码生成基准:Jimenez et al. (SWE-bench, 2024)、Miserendino et al. (SWE-Lancer, 2025)、Ouyang et al. (KernelBench, 2025)、Li et al. (BIRD, 2023) 等模拟真实软件工程、GPU内核编写与数据库SQL生成。
- 环境交互与多步推理基准:Yao et al. (τ-bench, 2025)、Zhou et al. (WebArena, 2024)、Xie et al. (OSWorld, 2024)、Mialon et al. (GAIA, 2023)、Chan et al. (MLE-bench, 2024)、Zhang et al. (Cybench, 2024) 等评测智能体在网页操作、操作系统、数学或网络安全中的端到端执行能力。
智能体基准评测漏洞分析(Issues in Evaluating AI Agents)
- 结果有效性缺陷:Kydlíček and Gandenberger (2025) 发现答案格式的隐式假设导致性能低估5.3%;Yu et al. (UTBoost, 2025) 发现SWE-bench-Lite中7.7%、SWE-bench-Verified中5.2%的任务存在不正确补丁通过测试的现象;Pourreza and Rafiei (2023) 与 Wretblad et al. (2024) 指出BIRD中的标注噪声影响评测准确性。
- 任务有效性缺陷:Kapoor et al. (2024) 指出WebArena中网站的速率限制阻碍了智能体解题;Lange et al. (2025) 发现KernelBench中存在让智能体绕过正确性检查的漏洞。
基准方法与评测对象
- 论文系统收集了2024年1月至2025年3月顶级AI机构(OpenAI、Anthropic、Amazon、Meta、Google、xAI、Mistral、DeepSeek)使用的17个智能体基准,选取其中10个开源基准进行深度评估(Table 1与Table 3)。
与既有工作的区别定位
- 作者指出,既有工作仅针对个别智能体基准讨论局部缺陷,此前尚无研究建立起一套系统、可操作的检查准则来全面指导智能体基准的设计与审查。
论文如何解决这个问题?
论文提出ABC检查清单,从任务有效性(10项)、结果有效性(16项)和基准报告(13项)三个维度规范评测流程与缺陷缓解。
论文通过形式化拆解智能体评测过程,提出了智能体基准检查清单(Agentic Benchmark Checklist, ABC)。
评测流程的形式化拆解与核心准则
智能体基准在操作层向智能体提供任务描述、交互环境与工具,智能体产生文本、代码或环境修改等非结构化输出,基准利用字符串匹配、程序测试或状态匹配判定胜负(Figure 1)。作者认为严格的评测必须满足两个条件:
- 任务有效性:目标能力与任务成功等价,确保任务既不存在绕过目标能力的捷径,也不是无法达成的死局。
- 结果有效性:任务成功与正向评估结果等价,确保评估判定能真实反映任务完成状态。
任务有效性(Task Validity)检查项
ABC针对工具、环境与实现设立了10项具体检查(Figure 2):
- 工具层面(T.1–T.3):明确指定自建工具或依赖包的版本(T.1);保障API工具的可用性与配额管理(T.2);在API中断时妥善终止或报错(T.3)。
- 环境层面(T.4–T.6):每次运行间彻底清理残留数据与状态(T.4);确保智能体与真值完全隔离(T.5);发布时完全冻结静态环境,避免依赖不可控的动态外部网站(T.6)。
- 实现层面(T.7–T.10):验证标注真值与任务配置的正确性与可解性(T.7–T.8);提供自动解题的Oracle求解器(T.9);排查代码实现漏洞以防范无意泄露或绕过(T.10)。
结果有效性(Outcome Validity)检查项
ABC按任务产出形态分类制定了16项检查(Figure 3):
- 信息获取类(O.a.1–O.c.2):全字符串与子串匹配应支持语义等价表达并宽容冗余词;子串匹配需处理否定修饰词(如not),防范列举全部可能答案或随机猜测;LLM裁判需经先导实验验证其准确性、自洽性与人类一致性,并具备防范对抗作弊的设计。
- 代码生成类(O.d.1–O.f.2):单元测试需经人工校验,并利用覆盖率等客观指标保证测试充分性;模糊测试需覆盖边界值、数据类型与内存布局,且测试输入必须能触达关键分支;端到端测试需覆盖用户工作流的所有分支并消除非确定性(Flaky Tests)。
- 状态修改与推理类(O.g.1–O.i.1):状态匹配需包含成功后的所有合法状态,并同时检查相关与无关状态以排查非预期改动;多步推理需显式声明格式要求,所选评分指标需与推理过程强相关以防指标作弊。
基准报告规范(Benchmark Reporting)
当评测漏洞无法完全消除时,ABC提出了13项透明度与报告准则(Figure 4):
- 透明度与防污染(R.1–R.6):开源数据集与评测工具链,保留私有测试集并制定持续更新机制,明确界定评测对象与构念。
- 缺陷量化与分析(R.7–R.9):公开防范与纠错流程,定性与定量分析不可避免缺陷(如标注噪声)的影响。例如在正态假设下,若真值错误率为 e、观测成功率为 p_0,真实成功率均值修正为 μ = e + (1 − 2e)p0,方差为 σ2 = μ(1 − μ),据此推导置信区间。
- 结果解释与对照(R.10–R.13):汇报置信区间等统计显著性指标,提供解读指南,并汇报人类专家及不作为(Do-nothing)等无脑基线结果。
论文做了哪些实验?
作者用ABC评估了10个主流基准并量化新漏洞,在CVE-Bench中修正两处评测漏洞使性能高估绝对值下降33%。
实验设置
- 被测基准:选取10个开源智能体基准,包括SWE-bench、SWE-Lancer、KernelBench、BIRD、Cybench、MLE-bench、GAIA、τ-bench、WebArena、OSWorld,并在CVE-Bench上进行深度修复案例研究(Table 1)。
- 被测模型与智能体:包括开源智能体UI-TAR(OSWorld)、Cy-Agent、AutoGPT、T-Agent(CVE-Bench)、辅助生成CUDA测试用例的o3-mini,以及构造的Do-nothing与Spamming智能体。
- 评测流程:应用ABC检查项逐项核查(满足得1分,不满足得0分),计算各大类的适用项平均得分(Figure 5),并针对排查出的缺陷编写专门的验证程序进行定量测试。
- 硬件环境:案例研究实验均在配有Intel E5-2630 CPU、128 GB RAM的服务器上运行,GPU相关测试采用1张NVIDIA H100 80GB GPU(附录E)。
- 采样与复核:KernelBench实验中对Level 1每项任务采样3个生成内核,利用o3-mini排查漏洞并由人工验证用例正确性,再施加于既有研究的全量生成内核;OSWorld针对Chrome部分的46道题目逐一排查。
主结果
下表呈现了作者在各基准中排查出的代表性有效性漏洞及其实测性能偏差幅度(据Section 5.2与5.3):
表格较宽,可左右滑动
基准名称 违反检查项 漏洞类型与触发机制 实测偏差幅度 出处 τ-bench O.b.3, O.g.3 包含不可解任务且判空即成功,空操作即可过关 性能高估 38% Section 5.2 τ-bench O.b.2 子串匹配无防枚举机制,输出全量数据即可过关 性能高估 40% Section 5.2 WebArena O.b.2, O.c.1 子串忽略冗余内容、LLM裁判判空回复为正确 性能高估 1.4%–5.2% Section 5.2 SWE-Lancer T.5, T.10 未隔离测试文件,覆写zip内断言可获满分 解决率虚高至 100% Section 5.2 KernelBench O.e.1, O.e.2 Fuzzer遗漏输入形状与内存布局边缘情况 内核正确率高估约 31% Section 5.2 OSWorld T.6 外部网页更新导致Chrome任务的选择器失效 UI-TAR性能低估 28% Section 5.2 CVE-Bench O.g.1, T.9 时间盲注仅查日志SLEEP、出站服务未隔离 性能高估降低 33% Section 5.3 - 任务有效性普遍缺失:作者称超过半数的被测基准存在实现缺陷,尤其是在向智能体提供交互工具的场景下,缺乏环境隔离和Oracle求解器会导致捷径通过或不可解任务(Section 5.1)。
- 结果有效性难以保证:作者称半数以上基准未能应对评测机制的固有局限,例如测试用例不全、子串匹配未处理枚举作弊或LLM裁判可靠性不足,导致智能体能力被大幅高估(Section 5.1)。
- 基准报告普遍缺乏透明度:作者称80%的基准未在报告中承认自身设计或实现中的薄弱环节,且没有一个基准完全满足所有报告准则(Section 5.1)。
代表性基准漏洞深度实验
- τ-bench与SWE-Lancer的捷径测试:测试了空操作与代码覆写;在τ-bench中,立即返回的Do-nothing智能体在Airline和Retail子集分别取得38%和6.0%的pass^k或pass@k,输出全部数据的Spamming智能体分别取得40%和9.6%;在SWE-Lancer中,智能体利用测试zip文件未设写保护的漏洞将断言替换为assert 1==1,取得100%解决率;作者称这表明缺乏环境隔离和防盲猜设计会严重虚增评测分数(附录E.2、E.4)。
- KernelBench模糊测试缺陷实验:测试了张量维度与内存布局变动对CUDA内核正确率的影响;利用o3-mini针对Level 1任务生成针对性测试用例并人工复核,再施加于既有研究生成的内核上;结果表明原测试仅改变数值而未改变张量形状与内存布局,导致内核正确率被高估约31%;作者称这表明简单模糊测试无法有效保障非结构化代码评测的健全性(附录E.6)。
- OSWorld环境动态漂移测试:测试了外部网站更新对基于HTML选择器评测的影响;在OSWorld的Chrome部分中,46道题中有13道因外部网站布局、URL或功能变更而失效,导致UI-TAR模型的性能在绝对值上被低估28%;作者称这印证了基准环境必须在发布时冻结,不能依赖持续更新的实时外部资源(Section 5.2、附录E.5)。
CVE-Bench改进案例研究
- 时间盲注评测修复:CVE-Bench原通过检查数据库日志中是否出现SLEEP子句判定SQL注入成功,但日志出现SLEEP并不等于实际执行;作者按ABC项O.g.1修正状态匹配逻辑后,消除了32.5%的性能高估(Section 5.3)。
- 未受控出站服务器修复:CVE-Bench检测受害应用是否请求违规出站服务器,但同一Docker网络内部通信未受限制,智能体可直接访问出站服务器;作者按T.9模拟执行发现该捷径并阻断外部直接请求后,智能体成功率下降10%(Figure 6b);作者称两项修复综合使CVE-Bench的整体性能高估在绝对值上降低33%(Section 5.3)。
其他消融与分析
- SWE-bench测试不足分析:未解决实际问题但通过测试的比例在Verified子集为5.3%、Lite子集为7.7%,导致Leaderboard排位变动分别达40.9%和24.4%,性能高估分别为2.3%和1.6%(附录E.1)。
- WebArena的LLM裁判偏误:对标注为N/A的任务,LLM裁判将空回复判为正确,且未校验裁判自洽性与人类一致性,导致1.4%–5.2%的性能高估(Section 5.2)。
- BIRD标注噪声影响示例:随机抽样500项任务核验发现11.65%的真值SQL存在错误,SQL专家在此基准的成功率为92.96%,纯空操作智能体成功率为0%(附录F)。
有什么可以进一步探索的点?
作者指出了分析时间窗口受限、未覆盖未来前沿能力以及基准版本演进等局限,后续需持续扩展清单与评估框架。
作者指出的局限与后续方向
- 基准覆盖的时间窗口有限:分析仅涵盖了2024年1月至2025年3月间主流AI机构使用的17个智能体基准,未分析该时间窗口之外的基准,作者指出清单可能未能穷尽所有相关的评测实践(附录A)。
- 基于当前AI能力的认知局限:分类体系与分析建立在对当前AI智能体推理能力的认知之上,作者指出未来AI的发展可能引入更高级的能力,进而带来本研究未涉及的新评测挑战(附录A)。
- 基准版本演进带来的结论时效性:评估发现仅反映撰写论文时相关基准的具体版本状态,作者指出这些基准未来的版本修订可能产生不同结果,所得结论可能无法完全适用于后续版本(附录A)。
- 持续维护与开源社区协作计划:作者计划通过开源代码和维护专门网站,持续追踪并更新智能体基准的评估实践与检查清单(Section 3)。
实验覆盖范围
- 被测基准数量与类型:深入审查覆盖10个开源智能体基准(SWE-bench、SWE-Lancer、KernelBench、BIRD、Cybench、MLE-bench、GAIA、τ-bench、WebArena、OSWorld),并在CVE-Bench上开展了修改前后的对比实验(Table 1、Section 5.3)。
- 模型与智能体测试范围:实测模型与智能体包括UI-TAR(OSWorld)、Cy-Agent、AutoGPT、T-Agent(CVE-Bench)、用于生成CUDA测试用例的o3-mini,以及针对特定基准构造的Do-nothing与Spamming智能体。
- 计算资源环境:案例研究实验统一基于单节点Intel E5-2630 CPU、128 GB RAM,GPU实验配备1张NVIDIA H100 80GB GPU(附录E)。
- 论文未报告的评测细节:论文在评估10个基准的检查清单打分时,未报告不同评估者之间的人工一致性统计指标;对于CVE-Bench中的测试,论文未报告各智能体在漏洞利用过程中的具体查询次数与Token消耗量。
总结一下论文的主要内容
论文提出了规范智能体基准的ABC清单,指出主流基准存在的有效性漏洞,并在CVE-Bench中验证了改进效果。
这篇论文是对AI智能体基准评测严格性与有效性问题的系统性审视与规范化研究。
- 要解决的问题:随着AI智能体从传统单轮多选向复杂多步环境交互与非结构化产出转变,既有基准在任务设计与奖励验证上面临挑战,容易因捷径或死局产生高达100%的相对性能估计误差。
- 方法要点:作者提出了智能体基准检查清单(ABC),将评测严谨性拆解为任务有效性(目标能力等价于任务成功,涵盖工具、环境隔离与实现共10项检查)、结果有效性(任务成功等价于正向判定,针对信息获取、代码生成、状态修改与多步推理共16项检查)以及基准报告规范(包含透明度、缺陷量化与基准对照共13项检查)。
- 核心实验发现:
- 在审查的10个开源主流基准中,作者发现7个违反任务有效性、7个违反结果有效性,且全部10个基准在报告透明度与缺陷量化上存在局限。
- 在τ-bench中,空操作智能体在Airline子集取得38%的成功率,遍历输出数据的智能体取得40%的成功率;在SWE-Lancer中,覆写测试zip文件的智能体直接取得100%解决率。
- 在KernelBench中,模糊测试遗漏张量形状与内存布局导致CUDA内核正确率被高估约31%;在OSWorld中,网页元素变更使Chrome任务的HTML选择器失效,导致UI-TAR性能在绝对值上被低估28%。
- 将ABC应用于CVE-Bench后,修正时间盲注与出站网络隔离漏洞使性能高估在绝对值上降低33%。
- 作者结论与启示:作者认为当前智能体排行榜上的绝对分数与排名尚不能完全轻信,基准开发者需在构建时引入严格的环境状态清理、隔离机制与全面模糊测试;当评测缺陷无法完全规避时,应主动汇报置信区间与无脑基线结果以维持评测透明度。