OEB 基准:从 Agent 执行记录评测开放式研究中的认知过程
Open-Endedness Bench: Measuring Epistemic Process from Agent Records
AI 导读
研究者提出 OEB(Open-Endedness Bench),一种只读取 Agent 执行记录、不依赖参考答案或结果分数的基准无关评测方法,用于衡量 Agent 在开放式研究任务中的认知过程。OEB 把执行记录编译成统一的认知事件图,边连接 Agent 提出的命题与检验该命题的实际动作,每个节点附带可由代码在记录中核验的原文片段。其评分原则是:文字可以提出命题,但只有已执行动作返回的证据才能支持或反驳它。基于该图,OEB 从证据、实验、修正和反奖励作弊四个能力维度打分,并刻画六种主观研究习惯画像。