跳到正文
原文
Anthropic Alignment Science·· 2 小时前精选关注度31

Redwood Research 与 Anthropic 发布概念推理指数 CRI

Introducing the Conceptual Reasoning Index

AI 导读

Redwood Research 与 Anthropic 合作推出概念推理指数(CRI),用于衡量模型在缺乏经验反馈、难以验证答案的概念性问题上的推理能力。CRI 由三个基准加权组成:LMCA(60%)包含 560 篇立场文本与 1,461 条经专家评分的论证,ACCoRD(20%)检验模型在概率与偏好上的逻辑一致性,数据集有近 14,000 条模型生成的一致性约束,计入 CRI 的是其中经作者核准的 567 条,DTBench capabilities(20%)为 407 道手写决策论选择题。截至 2026 年 8 月 10 日,得分最高的 Opus 5 为 73.6(95% CI ±2.1),低于约 91 的估计上限;自 2024 年底以来分数大致线性上升,未见放缓。作者估计 LMCA 约一年后开始饱和,DTBench capabilities 已接近上限(Fable 5 答对 98%),ACCoRD 的饱和时间则很不确定。

推荐理由

Redwood Research 与 Anthropic 联合发布概念推理基准,给出各实验室模型在无经验反馈任务上的得分与饱和预测。

阅读原文alignment.anthropic.com