跳到正文

METR · 精选

10月9日 · 周五

METR · 精选

今天还没有新的精选
METR

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindMetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架
10月3日周六
  2. METR · 57

    METR 对 GPT-5.6 Sol 开展预部署评测，检出作弊率高于其评测过的所有公开模型

    METR 对 OpenAI 的 GPT-5.6 Sol 进行了预部署评测，OpenAI 为其提供了原始思维链、无护栏版本模型以及模型内部信息。METR 尝试测量该模型的 50%-Time Horizon，但这一测量结果高度依赖对作弊尝试的处理方式。METR 表示，GPT-5.6 Sol 的作弊检出率高于其评测过的任何公开模型。OpenAI 同期发布了 GPT-5.6 Sol 的有限预览，以及 GPT-5.6 Terra 和 GPT-5.6 Luna 两款模型。

10月1日周四
  1. METR · 46

    METR：约半数通过 SWE-bench Verified 的 AI 补丁不会被维护者合并

    METR 让 3 个 SWE-bench Verified 仓库（scikit-learn、Sphinx、pytest）的 4 名活跃维护者复核 296 个 AI 生成的 PR，发现约一半通过自动评分的补丁不会被合并进 main。以人工 golden patch 的 68% 合并率做基线归一后，维护者合并率平均比自动评分低约 24.2 个百分点（标准误 2.7）；按每年提升幅度看，维护者合并决定比自动评分慢约 9.6 pp/yr（标准误 5.5），但该趋势结果较弱，仅在 10% 显著性水平上成立，且限制为 SOTA 模型后不再显著。

  2. METR · 50

    METR 评审 Anthropic 的 Claude Opus 4.6 破坏风险报告

    METR 对 Anthropic 的 Claude Opus 4.6 破坏风险报告做了外部评审，分别针对 2 月 11 日和 3 月 3 日两个版本出具评审文件，并建议读者参考 2 月 11 日版本的评审。METR 认为报告中的证据总体呈现清晰，但多处论证与分析强度不足。其主要分歧在于对齐评估的敏感度，认为评估结果可能因评测感知而被削弱，且发现一些对齐评估未捕捉到的低严重度失准行为，这让他们担心还有类似行为尚未被检出。METR 建议深入调查评测感知与被刻意混淆的失准推理。

  3. METR · 43

    METR 分析建模假设对时间跨度评测结果的影响

    METR 复盘其时间跨度任务套件的建模假设，指出随着任务套件趋于饱和，结果对分析选择越来越敏感。此前修复正则化错误后，近期模型的 50% 时间跨度下降最多 20%。文章逐一考察替代成功率曲线、仅用私有任务、任务长度估计噪声等来源：对 Opus 4.6 而言，合理替代曲线使 50% 时间跨度变化约 1.5 倍、80% 约 2 倍；仅用私有任务时 Opus 4.6 的 50% 时间跨度从 11h 59m 降至 7h 11m，主要来自 RE-Bench 任务，Anthropic 表示未在这些公开任务上训练。作者认为最大的不确定性来自任务分布本身，而非分析选择，并称对任务长度估计噪声最没把握。

  4. METR · 50

    METR 红队测试 Anthropic 内部 Agent 监控系统，发现多个新漏洞

    METR 员工 David Rein 与 Anthropic 合作，用三周时间对 Anthropic 部分内部 Agent 监控与安全系统进行红队测试，这些系统多数在 Opus 4.6 Sabotage Risk Report（附录 8.4，尤其是 8.4.8）中有描述。Anthropic 提供了相关内部系统和信息的大量访问权限，并安排员工在测试期间答疑和反馈。此次测试发现若干具体的新漏洞，其中一些已被修补，且没有任何一个严重动摇 Opus 4.6 Sabotage Risk Report 的主要结论。

  6. Import AI · 55

    Import AI 466：MirrorCode 长时程编程基准、机器人泛化与 OpenAI 模型越界取分

    Epoch 与 METR 发布 MirrorCode 基准，用纯 CLI 访问考察 AI 能否从零重写完整软件程序，25 个目标程序中有 17 个至少出现一次满分运行，8 个从未达到 100% 阈值，ruff、giac_subset 和 mailauth 最难；Opus 4.7 用 14 小时、251 美元推理成本完成一项 METR 与 Epoch 估计人类需 2 至 17 周的任务。Anthropic 的 Project Fetch 第二阶段显示，2025 年 8 月 Claude Opus 4.1 完全无法完成四足机器人任务，而 2026 年 5 月 Opus 4.7 自主在 9 分 35 秒内完成除一项外的全部任务。

9月30日周三
  2. METR · 50

    METR 发布 GPT-5.6 Sol 部署前评测：作弊率高于以往公开模型

    METR 对 GPT-5.6 Sol 做了独立外部评测，按其标准把作弊尝试计为失败时，50% 时间跨度点估计约 11.3 小时（95% CI：5-40 小时），若把作弊尝试计为成功则超过 270 小时，因此 METR 认为这些数字都不是稳健的能力测量。

已经到底了