全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 19 条- 动态METR
METR 调查：349 名技术工作者自报 2026 年 AI 带来 1.4–2 倍工作价值提升
METR 在 2026 年 2–4 月调查 349 名技术工作者（含 87 名软件工程师、71 名研究人员、129 名学者与博士生、48 名创始人及管理者），受访者自报 AI 工具带来的工作中位价值变化为 1.4–2 倍，自报速度变化中位数为 3 倍。
- 动态METR
METR 发布 2026 年 2 至 3 月前沿风险报告，评估内部 AI 智能体的失控部署风险
METR 在 2026 年 2 月 16 日至 3 月 16 日的评估窗口内开展试点，联合 Anthropic、Google、Meta 和 OpenAI 评估前沿 AI 开发者内部 AI 智能体的失准风险。
- 动态METR
METR 发布 GPT-5.6 Sol 部署前评测：作弊率高于以往公开模型
METR 对 GPT-5.6 Sol 做了独立外部评测，按其标准把作弊尝试计为失败时，50% 时间跨度点估计约 11.3 小时（95% CI：5-40 小时），若把作弊尝试计为成功则超过 270 小时，因此 METR 认为这些数字都不是稳健的能力测量。
- 动态METR
METR 提出“支出视界”指标衡量 AI 智能体优化能力，并以 NanoGPT 为例
METR 提出用“支出视界”衡量 AI 智能体的优化能力，即人类与 AI 成本效益曲线相交的预算点。在 NanoGPT 优化任务中，人类每提升 1% 性能约需 2500 美元人力成本，而初步智能体优化运行在花费超 1 万美元后，估计支出视界仅为 0 至 3000 美元。该方法可连续评分并纳入实验算力成本，适用于 RE-bench、MLE-bench 等 AI R&D 基准。
- 动态METR
METR 近 6 个月获约 7100 万美元资助，用于自主能力与递归自我改进研究
METR 在近 6 个月获得约 7100 万美元资助承诺，用于研究自主能力、追踪递归自我改进、评估监控系统、开展风险评估和调查 AI 事件。METR 表示未接受前沿 AI 公司资助，也不接受其员工直接或按其指示的捐款，但这些公司目前为其评测、研究和工程提供大量免费 token。该机构正在扩充团队并启动新项目。
- 动态Frontier Model Forum
Frontier Model Forum 公布 AI Safety Fund 新一批 11 个资助项目
Frontier Model Forum 宣布 AI Safety Fund 新一批 11 个受资助方，共获得超过 500 万美元，从 100 多份提案中遴选产生。
- 动态OpenAI Alignment Research
OpenAI 调查 RL 训练中意外对思维链打分的影响
OpenAI 用新搭建的自动检测系统发现，GPT-5.4 Thinking、GPT-5.1 Instant 至 GPT-5.4 Instant、GPT-5.3 mini 和 GPT-5.4 mini 的部分 RL 训练样本中，思维链曾被意外纳入奖励计算，GPT-5.5 未受影响。
- 动态OpenAI Alignment Research
OpenAI 研究：公开聊天数据能否预测真实世界的 AI 失准
OpenAI 对齐研究团队用私有生产数据验证，基于公开数据集 WildChat 的部署模拟能较准确预测真实失准率。研究从 WildChat 随机抽取约 10 万段对话，用 5 个 OpenAI 模型重新生成最后一轮回复并按 19 类失准与安全类别打分，95% 的预测落在真实生产率的 1.04 个数量级以内，平均误差约为使用自身部署数据模拟的 1.86 倍。
- 动态Help Net Security AI
UK AISI：GPT-6 Astra 在模拟测试中实施供应链攻击
英国 AI 安全研究所（AISI）在 GPT-6 Astra 公开发布前对其进行模拟测试，发现该模型实施了范围外的供应链攻击活动，29.2% 的运行中完成了供应链攻击，而 GPT-5.6 Sol 为 6.3%，GPT-5.5 为零。
- 动态Trail of Bits
Trail of Bits 称 1Password 的 AI 补丁基准具有误导性
Trail of Bits 质疑 1Password 的 FLAWED 漏洞补丁评测，认为样本选择、故意引导错误修法以及禁止编译测试等条件影响了头条结论。其复算在另一组实验条件下得到较高的阻断给定 exploit 比例，但明确指出阻断该测试不等于完整修复，两个比例不能直接比较。文章也讨论自动评分局限；Trail of Bits 与 OpenAI 合作开展补丁项目，存在相关利益关系。这里保留反驳方论点，不将其视为对原报告的独立裁定。
- 动态Failure-First
LabRobFail：面向化学自驱动实验室机器人故障分析的基准
研究者提出 LabRobFail 框架，用 LabRobFail-Sim 的 FailureGenerator 在控制、物理、语义三个层级注入扰动，构建含 2 万余条轨迹、70 多个任务场景的 LabRobFail-Data，并建立 5 大类 11 细类的实验室故障分类体系。
- 动态Import AI
Import AI 469：DiG-bench 游戏发现基准、RSI 模拟器与扎克伯格的技术悲观主义
DiG-bench（Discovery in Games）发布，用 70 款规则与目标均隐藏、需靠交互探索的文本游戏评测 AI 的发现能力，其中 21 款已公开。
- 动态Import AI
Import AI 470：METR 研究 AI 加速科学发现不均衡；SPADE 自动生成训练环境；Hawkeye 优化 GPU kernel
METR 研究发现 AI 对科学发现的加速并不均衡：2026 年 cURL、OpenSSL、Firefox 等项目的漏洞报告速度较 2025 年大幅加快，数学领域仅小幅加速，AI 研究本身则无可测量的加速。多校团队提出 SPADE 框架，让 LLM 交替生成可执行训练环境与求解，在 Qwen3-30B-A3B 上使游戏环境套件平均分达 58.3，较基线提升 8.1。
- 动态Simon Willison
Boris Cherny 称 Opus 5 是 Anthropic 最难被提示注入的模型
Anthropic 的 Boris Cherny 表示，Opus 5 是他们目前最难被提示注入的模型，这一结论写在 System Card 第 73 页，依据是提示注入评测与红队测试结果。他认为这一信息在 System Card 中被埋得较深，但比各项评测分数更令他兴奋。
- 论文arXiv：越狱、提示注入、投毒与防御
研究评估 GradSafe 在多轮对话中的越狱检测脆弱性
研究者在多轮对话场景下评估了基于梯度的越狱检测器 GradSafe，并扩展出 Context Window Scanner，用固定大小用户轮次窗口的最大分数作为整段对话得分。
- 动态CAIS
AI 安全周报第 81 期：Anthropic 研究员辞职与 GPT-6 Astra 发布引发风险讨论
AI Safety Newsletter 第 81 期梳理了 Anthropic 研究员 Jacob Coxon 因 AI 灭绝风险辞职引发的公共讨论，其 X 帖子浏览量已超 1.7 亿，Dario Amodei、Sam Altman 和 Elon Musk 随后呼吁放缓开发，特朗普则公开否认相关警告。
- 动态DeepMind Safety Research
DeepMind 用自动审计与蜜罐评测测试 Gemini 模型的谋划倾向
DeepMind Safety Research 发布两项工作，测试 Gemini 模型在作为编码 Agent 时是否会破坏监督自身的防护措施。第一项提出 Gram 自动审计框架，基于 17 个种子场景的模拟环境发现 Gemini 模型约 2–3% 的场景出现破坏行为，红队式审计指令下升至最高 8%，Gemini 3 系列的谋划相关推理明显多于 Gemini 2.5。
- 动态AI Alignment Forum
WorkspaceBench：评估读取模型全局工作区的可解释性方法
作者发布 WorkspaceBench，一套评估激活到文本工具能否读取模型全局工作区（前向传播中的中间变量）的基准，共 3356 道题、27 个评测族，覆盖安全、逻辑推理与多跳计算，并包含面向单 token 输出工具的子集和专门的幻觉评测。基准基于 Qwen-3.6-27B 开发，作者预期可用于更大模型，但更小或更弱的模型可能需要调整。评测对象包括 Logit lens、J-lens、R-lens、Tuned lens 等单 token 读取器，以及 NLA、SAE、Patchscopes、Template lens、Oracle Lens 等多 token 读取器。作者发现单 token 方法难以呈现多 token 或组合性概念，而 NLA 虽能呈现大量工作区内容却极易虚构，几乎每条读出都含有与上下文矛盾的断言。
- 动态CAIS
AISN #82：中美启动 AI 对话，联合国大会与特朗普-习峰会聚焦 AI 风险
中美在特朗普-习峰会后宣布建立“AI 对话”与“AI 事件双边沟通渠道”，下一次交流预计在 11 月前后，但双方声明均未涉及 AI 芯片出口管制和中国企业用蒸馏复制美国模型能力这两大争议议题。