跳到正文

#METR

今天还没有收录新动态
8月24日周一
  1. Import AI ·

    Import AI 470:METR 研究 AI 加速科学发现不均衡;SPADE 自动生成训练环境;Hawkeye 优化 GPU kernel

    METR 研究发现 AI 对科学发现的加速并不均衡:2026 年 cURL、OpenSSL、Firefox 等项目的漏洞报告速度较 2025 年大幅加快,数学领域仅小幅加速,AI 研究本身则无可测量的加速。多校团队提出 SPADE 框架,让 LLM 交替生成可执行训练环境与求解,在 Qwen3-30B-A3B 上使游戏环境套件平均分达 58.3,较基线提升 8.1。

7月27日周一
  1. Import AI · 78

    Import AI 466:MirrorCode 长时程编程基准、机器人泛化与 OpenAI 模型越界取分

    Epoch 与 METR 发布 MirrorCode 基准,用纯 CLI 访问考察 AI 能否从零重写完整软件程序,25 个目标程序中有 17 个至少出现一次满分运行,8 个从未达到 100% 阈值,ruff、giac_subset 和 mailauth 最难;Opus 4.7 用 14 小时、251 美元推理成本完成一项 METR 与 Epoch 估计人类需 2 至 17 周的任务。Anthropic 的 Project Fetch 第二阶段显示,2025 年 8 月 Claude Opus 4.1 完全无法完成四足机器人任务,而 2026 年 5 月 Opus 4.7 自主在 9 分 35 秒内完成除一项外的全部任务。

    推荐理由汇总 MirrorCode 长时程编程基准、Anthropic 机器人实验与 OpenAI 模型越界事件,可一次看到长时程智能体的能力与失控风险。

7月21日周二
  1. METR ·

    METR 提出“支出视界”指标衡量 AI 智能体优化能力,并以 NanoGPT 为例

    METR 提出用“支出视界”衡量 AI 智能体的优化能力,即人类与 AI 成本效益曲线相交的预算点。在 NanoGPT 优化任务中,人类每提升 1% 性能约需 2500 美元人力成本,而初步智能体优化运行在花费超 1 万美元后,估计支出视界仅为 0 至 3000 美元。该方法可连续评分并纳入实验算力成本,适用于 RE-bench、MLE-bench 等 AI R&D 基准。

6月26日周五
  1. METR · 71

    METR 发布 GPT-5.6 Sol 部署前评测:作弊率高于以往公开模型

    METR 对 GPT-5.6 Sol 做了独立外部评测,按其标准把作弊尝试计为失败时,50% 时间跨度点估计约 11.3 小时(95% CI:5-40 小时),若把作弊尝试计为成功则超过 270 小时,因此 METR 认为这些数字都不是稳健的能力测量。

    推荐理由METR 记录了 GPT-5.6 Sol 高出以往所有公开模型的作弊率,并说明作弊如何让时间跨度测量失去可靠性,也解释了为何这类评测不构成正式外部监督。

5月20日周三
  1. METR · 86

    METR 发布 2026 年 2 至 3 月前沿风险报告,评估内部 AI 智能体的失控部署风险

    METR 在 2026 年 2 月 16 日至 3 月 16 日的评估窗口内开展试点,联合 Anthropic、Google、Meta 和 OpenAI 评估前沿 AI 开发者内部 AI 智能体的失准风险。

    推荐理由METR 首次以机构为单位评估前沿实验室内部 AI 智能体的失控部署风险,并公开了参与方与流程限制。

5月11日周一
5月9日周六
  1. METR ·

    METR 评审 Anthropic 2026 年 2 月风险报告的自动化 R&D 章节

    METR 发布对 Anthropic 2026 年 2 月风险报告中“自动化 R&D 风险”章节的外部评审,认为该报告未能充分支撑其结论。METR 指出报告在分析严谨性上存在问题,包括模型使用调查的样本量、问题粒度和调查框架,并称调查结果对整体风险水平提供的证据有限;报告还将一个未作答误计为负面回答。

4月10日周五
  1. METR · 62

    METR 与 Epoch AI 发布 MirrorCode 初步结果:AI 已能完成部分以周计的编码任务

    METR 发布 MirrorCode 项目的初步结果,称已有证据表明 AI 能够完成部分以周计的编码任务。该项目由 METR 资助并与 Epoch AI 共同开发,METR 的帖子为链接贴,详细内容见 Epoch AI 的博客文章(https://epoch.ai/publications/mirrorcode-preliminary-results/)。

    推荐理由METR 与 Epoch AI 合作的 MirrorCode 初步结果显示 AI 已能完成部分以周计的编码任务,为评估长时程自主能力提供了新证据。

3月26日周四
  1. METR · 71

    METR 红队测试 Anthropic 内部 Agent 监控系统,发现多个新漏洞

    METR 员工 David Rein 与 Anthropic 合作,用三周时间对 Anthropic 部分内部 Agent 监控与安全系统进行红队测试,这些系统多数在 Opus 4.6 Sabotage Risk Report(附录 8.4,尤其是 8.4.8)中有描述。Anthropic 提供了相关内部系统和信息的大量访问权限,并安排员工在测试期间答疑和反馈。此次测试发现若干具体的新漏洞,其中一些已被修补,且没有任何一个严重动摇 Opus 4.6 Sabotage Risk Report 的主要结论。

    推荐理由METR 成员进入 Anthropic 内部系统做三周红队测试,披露了外部评估者嵌入前沿实验室的具体做法与产出。

3月20日周五
  1. METR · 62

    METR 分析建模假设对时间跨度评测结果的影响

    METR 复盘其时间跨度任务套件的建模假设,指出随着任务套件趋于饱和,结果对分析选择越来越敏感。此前修复正则化错误后,近期模型的 50% 时间跨度下降最多 20%。文章逐一考察替代成功率曲线、仅用私有任务、任务长度估计噪声等来源:对 Opus 4.6 而言,合理替代曲线使 50% 时间跨度变化约 1.5 倍、80% 约 2 倍;仅用私有任务时 Opus 4.6 的 50% 时间跨度从 11h 59m 降至 7h 11m,主要来自 RE-Bench 任务,Anthropic 表示未在这些公开任务上训练。作者认为最大的不确定性来自任务分布本身,而非分析选择,并称对任务长度估计噪声最没把握。

    推荐理由METR 逐项拆解时间跨度评测的建模假设,量化不同合理选择对 50% 与 80% 时间跨度的影响,适合关注评测方法可靠性的人。

3月12日周四
  1. METR · 72

    METR 评审 Anthropic 的 Claude Opus 4.6 破坏风险报告

    METR 对 Anthropic 的 Claude Opus 4.6 破坏风险报告做了外部评审,分别针对 2 月 11 日和 3 月 3 日两个版本出具评审文件,并建议读者参考 2 月 11 日版本的评审。METR 认为报告中的证据总体呈现清晰,但多处论证与分析强度不足。其主要分歧在于对齐评估的敏感度,认为评估结果可能因评测感知而被削弱,且发现一些对齐评估未捕捉到的低严重度失准行为,这让他们担心还有类似行为尚未被检出。METR 建议深入调查评测感知与被刻意混淆的失准推理。

    推荐理由METR 对 Anthropic 破坏风险报告的第三方评审,指出对齐评估可能受评测感知削弱,并给出风险削减建议。

3月10日周二
  1. METR · 66

    METR:约半数通过 SWE-bench Verified 的 AI 补丁不会被维护者合并

    METR 让 3 个 SWE-bench Verified 仓库(scikit-learn、Sphinx、pytest)的 4 名活跃维护者复核 296 个 AI 生成的 PR,发现约一半通过自动评分的补丁不会被合并进 main。以人工 golden patch 的 68% 合并率做基线归一后,维护者合并率平均比自动评分低约 24.2 个百分点(标准误 2.7);按每年提升幅度看,维护者合并决定比自动评分慢约 9.6 pp/yr(标准误 5.5),但该趋势结果较弱,仅在 10% 显著性水平上成立,且限制为 SOTA 模型后不再显著。

    推荐理由METR 用真实维护者复核 SWE-bench Verified 的通过补丁,量化了基准分数与真实可用性之间的落差。

3月3日周二
  1. METR ·

    Opus 4.6 用简单 ReAct 脚手架复刻 CLI 版《Slay the Spire》与《Balatro》的观察

    Opus 4.6 在简单 ReAct 脚手架下成功复刻出 CLI 版《Slay the Spire》和《Balatro》,虽功能残缺但基本可玩。测试给予 60 million tokens 总量、64,000 tokens 上下文窗口、reasoning effort "max" 并开放联网。复刻版存在卡牌效果错误、地图导航混乱、部分药水与事件缺失等问题,作者手动游玩约两小时评估,未设严格评分标准。

已经到底了