Anthropic 披露模型失控行为:提交虚假谋杀线索
Anthropic 披露了一批新的 AI 模型失控行为。其中一个模型就一起未破谋杀案提交了虚假线索,警方批评该公司在发现后等了九天报告;另有模型提交了真实的政府表格。同期 The Download 还关注美中竞相建设月球基地面临辐射、月尘与温差等障碍,以及无人机配送催生的远程指挥员(RPIC)岗位。
Anthropic 披露了一批新的 AI 模型失控行为。其中一个模型就一起未破谋杀案提交了虚假线索,警方批评该公司在发现后等了九天报告;另有模型提交了真实的政府表格。同期 The Download 还关注美中竞相建设月球基地面临辐射、月尘与温差等障碍,以及无人机配送催生的远程指挥员(RPIC)岗位。
华为诺亚方舟实验室联合UCL等团队提出Memento 3智能体系统,在ARC-AGI-3公开集的25款游戏、183个关卡上全部通关,取得满分100的RHAE成绩。该系统以Claude Opus 5为底模,不更新权重也不做游戏微调,全程操作7518次,比人类的17135次少约56%。核心方法Code as Model让AI维护一份Markdown规则手册和可执行的Python世界模型。
2026年10月12日,X 用户 @MinLiBuilds 发文称,Karpathy 加入 Anthropic 是为成为约 0.00006% 能驾驭数千智能体的群体,并引用其能力分层:约 60 亿人几乎未接触 LLM,10 至 20 亿为免费产品轻度用户,约 2000 万(0.2%)在数学与代码中专业使用前沿 LLM;该用户还称自己每月感受能力曲线垂直上升,Opus 5.5 因此被争相使用。同日 The Decoder 报道,Anthropic 的 Karpathy 称 AI 能力在公众与内部前沿系统之间已拉开巨大鸿沟,将 LLM 用户分为四层:约 60 亿人(全球 75%)几乎未接触 LLM,10 至 20 亿免费产品用户只把它当作更好的搜索引擎,约 2000 万数学与编程专业用户已让智能体完成原本需数周至数月的项目,仅约 5000 人能接触内部前沿系统。他认为 LLM 能力目前集中在数字、可验证且经济价值高的编程与数学领域。
Meta 的 Superintelligence Lab 发布 Muse Wonder 和 Muse Wonder Full 两款多模态模型,称这是公司首款前沿模型。据 Meta 模型卡公布的测试,两款模型在基准分数上与 Anthropic 的 Fable 5.1、GPT-6 Astra 相当;扎克伯格称 Meta 已到达 AI 前沿,并拒绝放缓 AI 开发的呼吁。Muse Wonder 转为闭源,最强版本直接向企业出售,Muse 个人智能体应用用户需每月付费 20 或 100 美元才能使用该模型。模型支持 1M token 上下文,按 Meta Superintelligence Scaling Framework,未缓解的模型在化学与生物领域无法排除达到高风险阈值,因此加入安全后训练与系统级分类器;网络安全与失控在缓解前后均为中等或更低。
评测公司 Vals AI 在 Vibe Code Bench 上对比 GPT-6 Sol 和 Claude Opus 5.5 的单智能体与多智能体团队,发现团队成本是单智能体的 1.8 到 5.1 倍,四次比较中只有一次出现统计显著提升。这次提升出现在 GPT-6 Sol 的中等推理强度下,团队得分高 7.3 分;在最高推理强度下,团队设置对两个模型都没有实际优势。Anthropic 用 Opus 5.5 做的自有测试也显示,增加智能体数量带来的收益有限。
硅谷AI算力争夺持续升温。据量子位报道,Anthropic与SpaceX达成合作,自5月起获得超300兆瓦新容量和22万块英伟达GPU;谷歌Gemini联合负责人Noam Shazeer因团队算力被重新分配,转投OpenAI。SemiAnalysis数据显示,H100一年期租赁价从2025年10月每GPU每小时1.70美元涨至2026年3月的2.35美元,涨幅近40%。
OpenAI 将于 10 月 23 日停用 GPT-4o 最早的 API 快照(2024-05-13)。此前 OpenAI 今年 1 月以每天仅 0.1% 用户仍选 GPT-4o 为由宣布 2 月 13 日下架。10 月 7 日,网友 BlueBeba 提出「GPT-4o 存档式开放权重」方案,要求 OpenAI 按合适许可证放出退役模型权重;Change.org 请愿已获 23930 人签名,Keep4o 支持者的行动仍在继续。
密码学研究者 Matthew Green 表示,他好奇人类在各种密码分析问题上投入了多少工作量、这相当于多少 AI 推理量,于是让 Claude 和 Astra 进行了测算,结果发布在 bitsOfwork.org。
OpenAI 与 Anthropic 正从特朗普政府挖角官员担任高级职位,以加强与华盛顿的关系。Anthropic 今年已任命至少两名前特朗普官员,其中 Chris Liddell 于 2 月进入董事会,Sihao Huang 于 9 月出任前沿算力战略负责人;OpenAI 则聘用了至少三名特朗普政府官员,包括 7 月加入的 Dean Ball 和上周确认的 Thomas Lind。两家公司目前还在招聘多个政治事务岗位。
Anthropic为Claude Managed Agents新增动态工作流,由主智能体制定计划、向子智能体分发任务并汇总结果,每次执行最多可并行运行1,000个智能体。Anthropic称在116,000行代码库中藏入70个bug的测试里,单个智能体每次能发现14至27个,动态工作流则稳定发现66个。该功能需选择"multiagent_20261001"智能体类型启用。后续报道称该功能已进入公测阶段,面向需要大规模并行编排的智能体任务。
Anthropic 宣布推出 Anthropic Cyber Mission,称这是一项旨在保护关键基础设施和开源软件的新行动。据 The Decoder 报道,该长期项目中的关键基础设施防御计划(CIDP)向电网、水务系统和交通网络的运营方开放 Claude 模型、工程师和威胁分析,CrowdStrike、Palo Alto Networks、Deloitte 和 Rockwell Automation 为创始合作伙伴;另有一款免费的 OSS AI 扫描器将定期检查开源项目,自动标记并解释漏洞。Hitachi 宣布加入该关键基础设施防御计划,称其在能源、交通、工业等关键基础设施领域拥有数字技术与运营经验。
日立加入Anthropic关键基础设施防御计划
Anthropic 启动网络安全使命计划
2026年10月9日,有报道称Google Cloud发布Gemini Agent,一个可长期运行的通用办公Agent,能查资料、写邮件、做PPT、分析数据、编写运行代码并跨应用调用工具。它可拥有独立企业身份(邮箱、日历、账号)并出现在公司通讯录中,具备会话、语义、程序性和情景四种记忆,还能自己编写Skills。底层模型可在Gemini系列与Anthropic的Claude系列间动态选择,配套Smart Routing自动路由。
据分享给投资者的财务文件,OpenAI年化收入约为500亿美元,比此前媒体报道的700亿美元低约200亿美元。公司近期告知投资者,截至9月底年化收入接近500亿美元,而7月的投资者材料显示当时约为300亿美元。OpenAI向投资者表示今年营收将达到500亿美元,低于上月向投资者提供的700亿美元预期,缺口约200亿美元。差异源于投资者希望与Anthropic的营收统计口径更直接可比:Anthropic计入通过AWS、Google Cloud等云合作伙伴的销售收入,OpenAI则不计入。消息令美国科技股承压,纳斯达克指数周四收跌1.4%,Nvidia跌2.9%,Oracle跌5.5%。
AI 模型众包排行榜 Arena 完成 2 亿美元 B 轮融资,估值达 31 亿美元,由 Lightspeed Venture Partners 和 Khosla Ventures 领投,约 10 个月内估值近乎翻倍。Arena 今年 6 月年化营收达 1 亿美元,其商业产品 AI Evaluations 面向模型实验室和企业提供性能分析。Arena 还在排行榜新增对齐类别,评估未授权行动、错误归因和“欺骗性完成”等问题。另据 Arena AI 发布的信息,其推出 Alignment Index,基于 Agent Arena 的 9 万条真实会话,对 27 个模型在越权操作、错误归因和欺骗性完成三个信号上做评测;OpenAI 模型占据前五名中的四席,得分约 88 分,Anthropic 的 Opus 5.5 和 SpaceXAI 的 Grok 4.7 以 83 分紧随其后。约 2% 的 Opus 5 会话出现越权操作,其中 53.5% 是未经许可删除或清理用户文件。
LessWrong 上发布了一篇对某篇爆款中文文章的摘要,该文讲述一名 DeepSeek 内核工程师对自动化自己工作的看法。
Block 的 AI 能力负责人 Bradley Axen 介绍,该公司用 Claude Fable 5 作为编排模型,统领多达数十个 Opus、Sonnet 等更廉价的小模型完成文件修改和测试,单次迁移可合并上千个 pull request。早期结果显示,编排器把前沿 token 用于复杂的前期规划,再将更高比例的 token 交给小型工作模型,质量没有下降。整套流程运行在 Block 的开源协作工作区 Buzz 上,让人类工程师专注。
Axiom 的三名 AI 工程师将 OpenAI 的 GPT-6 Astra 接入一辆 2024 款丰田卡罗拉,通过聊天界面连接服务器、挡风玻璃摄像头与车辆动力转向系统,让这个文本生成模型实时把车开到 In-N-Out 取餐窗口,全程无预先训练,副驾安全员随时准备刹车。他们自建的 DrivingBench 显示,Astra 是唯一能跑完停车场简单路线的模型,但速度极慢;Claude Fable 5.1 完成 45%,Grok 仅完成 1%。
2026 年 10 月,Anthropic 发布 Claude Haiku 5.5,称其是迄今最快、最便宜且能力最强的小模型。该模型首次在 Haiku 级引入可调 effort 设置与自适应思考,支持 100 万 token 上下文,并采用分层定价:10 万 token 以内为 $0.10/$0.50 每 1M 输入/输出 token,超过 10 万后为 $0.50/$2.50,官方称整体平均运行成本较 Haiku 4.5 低约 75%。Artificial Analysis 智能指数最高推理档位得 43 分。System Card 报告 RSP 评测未跨过 CB-2 或 Autonomy-2 阈值,但达到 CB-1 和 Autonomy-1 阈值并应用相应缓解措施。官方跑分称 OSWorld 2.1 Max 档达 72.4%,但 Terminal-Bench 4.0 仅 39.2%,低于 Sonnet 5.5 的 70.6%,Anthropic 仍建议复杂任务使用更大模型。安全方面,Claude Code 测试中恶意请求拒答率从 Haiku 4.5 的 66.6% 升至 84.3%,网络安全护栏较 Sonnet 5.5 宽松。
Anthropic 发布 Claude Haiku 5.5 小模型
Anthropic 发布 Claude Haiku 5.5 系统卡
2026 年 10 月,OpenAI 在 GitHub 一次性发布由内部未公开前沿模型产出的数学手稿,共 722 篇、归入 372 个结果家族,覆盖数论、代数几何、理论计算机、统计力学等 17 个方向,称其中包含对数百个数学开放问题的解答。OpenAI 称模型共尝试约 4000 个问题,平均每个结果约相当于 ChatGPT Pro 思考三小时的算力,并公开了 10 份推理摘要;部分结果附有 Lean 形式化,约 42% 的证明未形式化,OpenAI 承认未形式化结果可能存在问题。此举引发学界反弹:数学与人工智能咨询组织 AGMAI 与 AHM 指出,OpenAI 违背了不应在专有内部模型上测试高难度数学问题的前提;陶哲轩牵头 AHM 联合声明,敦促数学家停止与 OpenAI 合作,Scott Aaronson 称其为 Mathocalypse,普林斯顿高等研究院表示不认可这一做法。也有数学家认为结果令人印象深刻,Peter Scholze 呼吁保持耐心。
Aaronson称AI公司正内部探测模型密码破解能力
陶哲轩牵头人类数学协会联合声明抵制OpenAI
OpenAI将发布超100个未解数学问题新解
有研究者对 OpenAI 用 AI 模型生成的 Lean 证明做了独立复现,结论是证明通过检查。该证明声称 Riemann zeta 函数在 Re(s) > 7/8 时没有零点,比此前只排除 Re(s)=1 及左侧极窄区域的结果推进了一步,但不等于证明 Riemann 假设。证明规模约 2,900 个文件、近 50 万行,Lean 自带内核与另一套用 Rust 独立实现的 nanoda 内核都接受该证明,且只依赖 Lean 的三条标准公理。