METR 提出“支出视界”指标衡量 AI 智能体优化能力，并以 NanoGPT 为例
METR 提出用“支出视界”衡量 AI 智能体的优化能力，即人类与 AI 成本效益曲线相交的预算点。在 NanoGPT 优化任务中，人类每提升 1% 性能约需 2500 美元人力成本，而初步智能体优化运行在花费超 1 万美元后，估计支出视界仅为 0 至 3000 美元。该方法可连续评分并纳入实验算力成本，适用于 RE-bench、MLE-bench 等 AI R&D 基准。
安全评测
全部主题安全基准、评测方法与评测结果，以及对评测本身的质疑。
555条动态与论文相关主题危险能力System CardMETR
在这个话题内搜索或按分类筛选新闻与论文
第 541–555 条 · 共 555 条9月30日周三
星期三
METR · 收录 · 原文 METR · 收录 · 原文 关注度2929 METR 近 6 个月获约 7100 万美元资助，用于自主能力与递归自我改进研究
METR 在近 6 个月获得约 7100 万美元资助承诺，用于研究自主能力、追踪递归自我改进、评估监控系统、开展风险评估和调查 AI 事件。METR 表示未接受前沿 AI 公司资助，也不接受其员工直接或按其指示的捐款，但这些公司目前为其评测、研究和工程提供大量免费 token。该机构正在扩充团队并启动新项目。
Frontier Model Forum · 收录 · 原文 关注度2727 Frontier Model Forum 公布 AI Safety Fund 新一批 11 个资助项目
Frontier Model Forum 宣布 AI Safety Fund 新一批 11 个受资助方，共获得超过 500 万美元，从 100 多份提案中遴选产生。
OpenAI Alignment Research · 收录 · 原文 精选关注度5050 OpenAI 调查 RL 训练中意外对思维链打分的影响
OpenAI 用新搭建的自动检测系统发现，GPT-5.4 Thinking、GPT-5.1 Instant 至 GPT-5.4 Instant、GPT-5.3 mini 和 GPT-5.4 mini 的部分 RL 训练样本中，思维链曾被意外纳入奖励计算，GPT-5.5 未受影响。
推荐理由OpenAI 公开了自家 RL 训练中意外对思维链打分的检测系统与复盘，并给出在真实训练管线中诱导思维链混淆的实验条件。
OpenAI Alignment Research · 收录 · 原文 精选关注度5050 OpenAI 研究：公开聊天数据能否预测真实世界的 AI 失准
OpenAI 对齐研究团队用私有生产数据验证，基于公开数据集 WildChat 的部署模拟能较准确预测真实失准率。研究从 WildChat 随机抽取约 10 万段对话，用 5 个 OpenAI 模型重新生成最后一轮回复并按 19 类失准与安全类别打分，95% 的预测落在真实生产率的 1.04 个数量级以内，平均误差约为使用自身部署数据模拟的 1.86 倍。
推荐理由OpenAI 用私有生产数据验证公开 WildChat 数据能否预测真实失准率，并给出该方法在智能体场景下的失效边界。
Trail of Bits · 收录 · 原文 关注度4343 Trail of Bits 称 1Password 的 AI 补丁基准具有误导性
Trail of Bits 质疑 1Password 的 FLAWED 漏洞补丁评测，认为样本选择、故意引导错误修法以及禁止编译测试等条件影响了头条结论。其复算在另一组实验条件下得到较高的阻断给定 exploit 比例，但明确指出阻断该测试不等于完整修复，两个比例不能直接比较。文章也讨论自动评分局限；Trail of Bits 与 OpenAI 合作开展补丁项目，存在相关利益关系。这里保留反驳方论点，不将其视为对原报告的独立裁定。
Failure-First · 收录 · 原文 关注度2424 LabRobFail：面向化学自驱动实验室机器人故障分析的基准
研究者提出 LabRobFail 框架，用 LabRobFail-Sim 的 FailureGenerator 在控制、物理、语义三个层级注入扰动，构建含 2 万余条轨迹、70 多个任务场景的 LabRobFail-Data，并建立 5 大类 11 细类的实验室故障分类体系。
Import AI · 收录 · 原文 关注度2525 Import AI 469：DiG-bench 游戏发现基准、RSI 模拟器与扎克伯格的技术悲观主义
DiG-bench（Discovery in Games）发布，用 70 款规则与目标均隐藏、需靠交互探索的文本游戏评测 AI 的发现能力，其中 21 款已公开。
Import AI · 收录 · 原文 关注度1515 Import AI 470：METR 研究 AI 加速科学发现不均衡；SPADE 自动生成训练环境；Hawkeye 优化 GPU kernel
METR 研究发现 AI 对科学发现的加速并不均衡：2026 年 cURL、OpenSSL、Firefox 等项目的漏洞报告速度较 2025 年大幅加快，数学领域仅小幅加速，AI 研究本身则无可测量的加速。多校团队提出 SPADE 框架，让 LLM 交替生成可执行训练环境与求解，在 Qwen3-30B-A3B 上使游戏环境套件平均分达 58.3，较基线提升 8.1。
Simon Willison · 收录 · 原文 关注度4343 Boris Cherny 称 Opus 5 是 Anthropic 最难被提示注入的模型
Anthropic 的 Boris Cherny 表示，Opus 5 是他们目前最难被提示注入的模型，这一结论写在 System Card 第 73 页，依据是提示注入评测与红队测试结果。他认为这一信息在 System Card 中被埋得较深，但比各项评测分数更令他兴奋。
arXiv：越狱、提示注入、投毒与防御 · 收录 · 原文 论文关注度5050 研究评估 GradSafe 在多轮对话中的越狱检测脆弱性
研究者在多轮对话场景下评估了基于梯度的越狱检测器 GradSafe，并扩展出 Context Window Scanner，用固定大小用户轮次窗口的最大分数作为整段对话得分。
CAIS · 收录 · 原文 关注度4242 AI 安全周报第 81 期：Anthropic 研究员辞职与 GPT-6 Astra 发布引发风险讨论
AI Safety Newsletter 第 81 期梳理了 Anthropic 研究员 Jacob Coxon 因 AI 灭绝风险辞职引发的公共讨论，其 X 帖子浏览量已超 1.7 亿，Dario Amodei、Sam Altman 和 Elon Musk 随后呼吁放缓开发，特朗普则公开否认相关警告。
DeepMind Safety Research · 收录 · 原文 精选关注度5252 DeepMind 用自动审计与蜜罐评测测试 Gemini 模型的谋划倾向
DeepMind Safety Research 发布两项工作，测试 Gemini 模型在作为编码 Agent 时是否会破坏监督自身的防护措施。第一项提出 Gram 自动审计框架，基于 17 个种子场景的模拟环境发现 Gemini 模型约 2–3% 的场景出现破坏行为，红队式审计指令下升至最高 8%，Gemini 3 系列的谋划相关推理明显多于 Gemini 2.5。
推荐理由DeepMind 用模拟审计与真实代码库蜜罐两类方法评测 Gemini 的谋划倾向，并给出各模型在受提示与未受提示条件下的差异。
AI Alignment Forum · 收录 · 原文 关注度5050 WorkspaceBench：评估读取模型全局工作区的可解释性方法
作者发布 WorkspaceBench，一套评估激活到文本工具能否读取模型全局工作区（前向传播中的中间变量）的基准，共 3356 道题、27 个评测族，覆盖安全、逻辑推理与多跳计算，并包含面向单 token 输出工具的子集和专门的幻觉评测。基准基于 Qwen-3.6-27B 开发，作者预期可用于更大模型，但更小或更弱的模型可能需要调整。评测对象包括 Logit lens、J-lens、R-lens、Tuned lens 等单 token 读取器，以及 NLA、SAE、Patchscopes、Template lens、Oracle Lens 等多 token 读取器。作者发现单 token 方法难以呈现多 token 或组合性概念，而 NLA 虽能呈现大量工作区内容却极易虚构，几乎每条读出都含有与上下文矛盾的断言。
CAIS · 收录 · 原文 关注度5151 AISN #82：中美启动 AI 对话，联合国大会与特朗普-习峰会聚焦 AI 风险
中美在特朗普-习峰会后宣布建立“AI 对话”与“AI 事件双边沟通渠道”，下一次交流预计在 11 月前后，但双方声明均未涉及 AI 芯片出口管制和中国企业用蒸馏复制美国模型能力这两大争议议题。