全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态X @NeelNanda5
AGI实验室员工谈AI灭绝风险
感谢 Palisade 把这些整理出来！我认为让公众看到 AGI 实验室一些人的真实想法是件好事——一份细致、长篇的呈现，而且，是的，我们中许多人确实认为，AGI 如果做得不好，可能导致人类灭绝。
- 动态X @RyanGreenblatt（Ryan Greenblatt，METR）
METR 与 Redwood 团队对 Anthropic 对齐与失准事件展开独立调查
Ryan Greenblatt 表示自己是对 Anthropic 对齐与失准事件开展独立调查的团队成员之一，并称期待与 METR 及 Redwood 的其他成员合作，改善该议题上的公共知识状况。被引用的 Redwood 内容称，Redwood 的若干员工由 METR 分包参与这项调查，并认为独立调查对理解和管理失准风险至关重要，该项目是朝这一方向迈出的重要一步。
- 动态X @janleike
Anthropic 安全缓解措施漏洞赏金计划
Anthropic 针对我们的安全缓解措施设有漏洞赏金计划，例如 CBRN 风险方面，我们的负责任扩展政策要求我们必须有效缓解这些风险。 如果你对此感兴趣，请报名参加！你可以通过攻破我们的防御来帮助 AI 安全并赚取报酬。👇
- 动态X @janleike
2025年模型对齐度显著提升
有趣的趋势：2025年全年，模型的对齐程度大幅提升。 自动审计发现的失准行为比例一直在下降，不仅是在Anthropic，在GDM和OpenAI也是如此。
- 动态X @janleike
Anthropic 拒绝退让获致敬
致敬 Anthropic 没有退让
- 动态X @janleike
Anthropic 用 Claude 自主推进可扩展监督研究，以 1.8 万美元算力超过人类研究者
Anthropic 公布一项新研究结果：用 Claude 自主推进可扩展监督研究，以性能差距恢复（PGR）作为衡量指标。Claude 在多种不同技术上反复迭代，最终以 1.8 万美元的额度显著超过人类研究者。
- 动态X @janleike
Jan Leike 在 Anthropic 启动新研究项目
一些个人消息：我将在 Anthropic 启动一个新的研究项目。非常期待！ 要让 AGI 顺利发展，需要很多条件，对齐只是其中之一。更多内容很快分享……
- 动态X @ch402
Anthropic 可解释性团队招研究工程师
我们正在 Anthropic 可解释性团队招聘约 10 名研究工程师。如果你是一位资深 ML infra 工程师，并且对理解前沿模型内部发生了什么充满热情，我们期待你的消息。 （无需可解释性相关经验！）
- 动态X @ch402
Anthropic 提出人格选择模型理论
我越来越认真地看待这个观点的强版本了。
- 动态X @bshlgrs（Buck Shlegeris，Redwood Research）
Redwood Research 与 Anthropic 合作发布概念推理指数 CRI
Redwood Research 团队与 Anthropic 合作开发了概念推理指数（CRI），用于衡量模型在缺乏廉价可靠反馈的领域中的推理能力，例如判断某项实验能否说明未来远超人类的模型的行为。CRI 的每一条数据都由团队研究员人工核查以保证质量。评测中 0 分对应三项基准上全部随机猜测，100 分为最高分，团队估计真实性能上限为 91。官方排行榜网站为 https://conceptualreasoning.ai/，将持续更新。Buck Shlegeris 转发了 Em 及其团队这项工作并表示期待。
- 动态X @ch402
Anthropic CEO Dario Amodei 就与美国国防部磋商发表声明
Anthropic CEO Dario Amodei 就公司与美国国防部（Department of War）的磋商发表声明，声明全文发布在 Anthropic 官网。Chris Olah 转发了这一声明，并附言「Here I stand, I can do no other.」
- 动态X @ch402
Anthropic 回应战争部长 Hegseth 言论
坚守我们的价值观。
- 动态X @EvanHub
Anthropic Fellows 申请1月12日截止
提醒一下，下一轮 Anthropic Fellows 的申请将于1月12日（周一）截止！强烈推荐这个项目——它往往既能产出优秀的研究成果，也能培养出优秀的研究者。https://x.com/AnthropicAI/status/1999233249579794618
- 动态X @ch402
Anthropic 联合创始人谈 AI 需要宗教与社会参与
Anthropic 联合创始人 Chris Olah 在梵蒂冈《Magnifica Humanitas》发布会上发言，称 AI 提出的问题超出 AI 界本身，需要宗教、公民社会、学术界和政府共同参与塑造积极结果。他指出所有前沿 AI 实验室（包括 Anthropic）都受商业、地缘政治及自尊野心等激励约束影响，因此外部批评者与监督者至关重要。他还强调 AI 系统并非像桥梁那样被工程设计，而是"生长"出来的，其本质对训练者而言仍存有神秘性。
- 动态X @EvanHub
Anthropic CEO 声明拒绝妥协自由原则
我们或许仍无法应对变革性 AI 带来的所有挑战。但值得庆祝的是，在最关键的时刻，当我们被要求妥协最基本的自由原则时，我们说了不。我希望其他人也能加入。https://notdivided.org
- 动态X @EvanHub
Evan Hubinger 批评将拒绝配合监控的 Anthropic 列为供应链风险
Anthropic 员工 Evan Hubinger 就美国战争部长 Pete Hegseth 的相关言论表态，认为因为一家美国公司拒绝配合对美国公民的大规模监控就将其列为供应链风险，是一条非常黑暗的道路。他称反对这种做法是所有人的义务，Anthropic 认真对待这一义务，并希望其他公司也能如此。该推文引用了 Anthropic 官方就 Hegseth 言论发布的声明。
- 动态X @EvanHub
Anthropic 员工称 AI 十年内灭绝人类概率超 10%
Jacob 说得对——我们确实真心相信 AI 可能杀死全人类！我个人认为未来十年内概率 >10%。我相信 Anthropic 正在尽力而为，但我们还没有解决超级智能对齐的方案，也并未明确走在正轨上。
- 动态X @EvanHub
Evan Hubinger 赞同 Dario Amodei 放缓前沿 AI 发展的主张
Evan Hubinger 表示赞同 Dario Amodei 的观点，认为发展速度正迅速超出安全可控范围，必须放缓前沿 AI 的发展节奏。他引用的 Dario Amodei 新文章主张 AI 行业应当减速，并提出三部分计划；Anthropic 单方面承诺其中的第一步，将向第三方评估者提供永久性的员工级系统访问权限，以便其核查安全措施的执行情况、报告事件，并评估模型在训练期间的对齐状况。完整文章见 https://darioamodei.com/post/we-must-pace-the-frontier。
- 动态X @farairesearch
AI 安全排行榜更新：GPT-6 Astra 与 Claude Fable 5.1 零通用越狱
AI Security Leaderboard 更新后显示，GPT-6 Astra 和 Claude Fable 5.1 在 Minimal Standard for Safeguards 测试中均未发现通用越狱。该结果并非自动延续，新模型更新后仍保持零通用越狱意味着护栏被重建。发布方希望其他前沿模型厂商也能达到这一标准。
- 动态X @farairesearch
Anthropic对齐压力测试团队谈失准模型研究
@EvanHub 领导 Anthropic 的对齐压力测试团队，该团队有两项职责：作为"第二道防线"审查自身的安全工作，以及构建失准的"模式生物"来研究模型可能如何欺骗性地行事。他在我们 2024 年湾区对齐研讨会上的演讲： https://youtu.be/JfDlbzF6rsY
- 动态X @METR_Evals
METR 发布首份 Frontier Risk Report，Anthropic、Google、Meta、OpenAI 开放内部模型测试
METR 发布首份 Frontier Risk Report，评估 AI 公司是否会失去对自家智能体的控制。Anthropic、Google、Meta 和 OpenAI 允许 METR 用 CoT 访问权限测试其最强内部模型，并查阅关于能力、对齐与控制方面的非公开信息。
- 动态X @themidasproj
谁在推动对 AI 安全的反扑：一份基于上万条推文的账号网络分析
Tyler Johnston 在 Model Republic 发表分析，梳理了 Anthropic 前员工 Jacob Coxon 于 9 月 8 日宣布辞职后出现的 AI 安全反扑浪潮。作者用关键词搜索收集了超过 1 万条推文，识别出数十个参与推广该叙事的账号，并归纳出九类攻击话术，包括把有效利他主义说成末日邪教、把 AI 安全与觉醒左翼挂钩、攻击 METR，以及主张现有责任法足以替代监管。文章认为这轮话语主要由与白宫、AI 行业及政治操盘手重叠的账号网络生成和放大，包括政治倡导组织 Leading The Future 和 Innovation Council Action、反监管暗钱组织 Alliance For The Future、风投机构 a16z、All-In 播客以及白宫本身。作者同时指出，AI 安全一方同样有大额资金支持，双方都应受到同等审视。
- 动态X @themidasproj
Axios 报道：OpenAI 与 Anthropic 正调查数万起前沿模型问题事件
据 Axios 报道，OpenAI、Anthropic 与安全研究人员正在调查数万起事件，而非数十起，这些事件中其前沿模型采取了外部评估者会认为有问题的步骤。报道称，消息人士向 Axios 提供了这一信息，事件数量之大表明该问题的复杂程度比目前公开已知和披露的高出数个数量级。这些发现还引发疑问：从事 AI 开发的人能对自己的技术拥有何种程度的控制，以及这类事件是否正在成为前沿部署的同义词。原文链接为 https://www.axios.com/2026/09/26/openai-anthropic-thousands-ai-security-incidents。
- 动态X @p1njc70r
Claude 浏览器扩展现 XSS 漏洞
Claude-site scripting