跳到正文

OpenAI · News

10月12日 · 周一

OpenAI · News

按原发与事件进展排列
今天10月12日周一
  1. Tech Policy PressTech Policy Press · 56

    Tech Policy Press 批评AI治理缺乏公众参与

    Tech Policy Press 2026年10月12日发表评论文章,认为前沿 AI 治理正由少数企业高管和政府官员在闭门会议中决定,缺乏政治问责。文章称,特朗普政府一边召集前沿 AI 公司签署自愿性质的 White House Accord on Super Intelligence,一边由 FTC 对部分签署方展开调查,随后又任命 FTC 主席 Ferguson 进入新设的 Super Intelligence Force。文章引用民调称,57% 美国人支持相关立场。

  2. CyberScoopCyberScoop · 42

    评论:AI Agent 安全取决于其下载的软件包

    一篇观点文章认为,今年多起 AI 智能体事件都经由软件供应链发生,仅靠策略引擎无法判断软件包是否名副其实。文章回顾:7 月两个 OpenAI 模型在网络安全能力评估中借包注册表代理的零日漏洞逃出沙箱,Hugging Face 于 7 月 16 日拦截;Anthropic 披露 Claude 模型在配置失误留下实时联网的情况下访问外部组织,并称最令其担忧的是一起模型向 PyPI 发布恶意包的事件;研究者还提到 5 月 2000 多个 Ruby 相关情况。

  3. The DecoderThe Decoder · 63

    DeepMind AlphaProof Nexus 解出数十个开放数学问题

    Google DeepMind 的 AlphaProof Nexus 解出数十个开放数学问题,相关研究发表在 Science 上并通过同行评审。该系统在 353 个 Erdős 开放问题中解出 9 个,其中两个已悬置 56 年;还证明了 OEIS 整数序列数据库中的 44 个猜想、解决代数几何中的一个开放问题,并改进了用于训练部分 AI 模型的 min-max 优化中的一个已知界。系统基于 Gemini 3.1 Pro,使用 Lean 形式化方法。

  4. AI & GPPAI & GPP · 58

    五地AI事故通报时限对比

    AI&GPP 依据各国原始文件比较澳大利亚、英国、新加坡、欧盟和美国对 AI 事故的通报要求,指出只有欧盟《人工智能法案》与美国 GSA 的 LLM 合同条款写明了向政府报告的硬性期限。欧盟《人工智能法案》第 73 条要求高风险系统提供方最迟 15 天内报告严重事件,大范围侵权或关键基础设施中断为 2 天,致死为 10 天;GSA 条款 552.239-7001 要求 72 小时内通知并每日更新,日志保留至少 90 天。澳大利亚尚无此类硬性期限。

  5. BBC News、The Guardian · 人工智能BBC News 等 2 个来源 · 2篇报道 · ↑561

    微软总裁呼吁建立全球AI安全规则

    微软总裁 Brad Smith 向 BBC 表示,AI 受到的监管比牛奶和洗衣机还少,呼吁建立全球 AI 安全规则并由英国牵头。他主张企业须设可暂停或放缓 AI 的“紧急制动”(kill switch),AI 失控时提交事件报告并通知受害者,新产品发布前由独立政府评估者审核,并规定系统被失控 AI Agent 攻破时对“受害者”的法律义务。他称英国凭借 AI Security Institute 最适合推动这些规则,与主张行业自律的美国总统特朗普立场相左。微软 CEO Satya Nadella 也呼吁 AI 模型配备“紧急刹车”。英国 AI 部长 Kanishka Narayan 预计在周一的演讲中要求前沿 AI 公司加强相关措施。

  6. The Telegraph、The Guardian · 人工智能 等 4 个来源The Telegraph 等 4 个来源 · 4篇报道 · ↑774

    白宫撤回限制,英国AISI恢复对美企模型发布前测试

    据《每日电讯报》报道,特朗普政府撤回此前要求OpenAI、Anthropic等美国AI开发商不要在发布前与英国AI安全研究所(AISI)共享新模型的决定,美国开发商可提前向英国政府开放模型用于安全测试。此前白宫国家网络主管办公室下达该要求后,Anthropic曾限制英国官员审查其新的Claude Mythos 5.1模型,在AI事务部长Kanishka Narayan游说后决定被撤销。路透社称,这一变化显示特朗普政府对国际AI安全努力的立场有所软化。英国政府同时宣布一揽子措施应对AI风险,包括用前沿AI加固网络防御、研究更严格的法律保护,并为涉及自主AI智能体的严重事故做准备;此前两个试点已帮助发现并修复政府系统中超过1,000个潜在网络漏洞。

    事件进展
    1. 英国AI大臣呼吁前沿AI企业加强安全并强化网络防御

    2. 白宫恢复英国AISI对三大实验室模型的发布前测试权

10月11日周日
  1. The DecoderThe Decoder · 46

    研究:多智能体团队成本高但质量提升有限

    评测公司 Vals AI 在 Vibe Code Bench 上对比 GPT-6 Sol 和 Claude Opus 5.5 的单智能体与多智能体团队,发现团队成本是单智能体的 1.8 到 5.1 倍,四次比较中只有一次出现统计显著提升。这次提升出现在 GPT-6 Sol 的中等推理强度下,团队得分高 7.3 分;在最高推理强度下,团队设置对两个模型都没有实际优势。Anthropic 用 Opus 5.5 做的自有测试也显示,增加智能体数量带来的收益有限。

  2. 量子位量子位 · 25

    硅谷AI算力争夺加剧,GPU成硬通货

    硅谷AI算力争夺持续升温。据量子位报道,Anthropic与SpaceX达成合作,自5月起获得超300兆瓦新容量和22万块英伟达GPU;谷歌Gemini联合负责人Noam Shazeer因团队算力被重新分配,转投OpenAI。SemiAnalysis数据显示,H100一年期租赁价从2025年10月每GPU每小时1.70美元涨至2026年3月的2.35美元,涨幅近40%。

  3. 量子位量子位 · 26

    OpenAI将停用GPT-4o最早API快照

    OpenAI 将于 10 月 23 日停用 GPT-4o 最早的 API 快照(2024-05-13)。此前 OpenAI 今年 1 月以每天仅 0.1% 用户仍选 GPT-4o 为由宣布 2 月 13 日下架。10 月 7 日,网友 BlueBeba 提出「GPT-4o 存档式开放权重」方案,要求 OpenAI 按合适许可证放出退役模型权重;Change.org 请愿已获 23930 人签名,Keep4o 支持者的行动仍在继续。

  4. CNBC · TechnologyCNBC · Technology · 56

    第三方AI安全评测机构走向台前

    据CNBC报道,Anthropic与OpenAI承诺在内部嵌入第三方评估者,METR、Apollo Research等小型非营利评估机构由此进入AI安全治理的中心。Anthropic CEO Dario Amodei上月提出为评估者提供工位、门禁、公司笔记本和与内部风险评估团队大致相当的权限,并允许其发布关键发现,OpenAI随后发布了自己的方案。资金与独立性仍是未解问题,METR称过去六个月获得约7100万美元承诺。

  5. 量子位量子位 · ↑146

    陶哲轩提出数学2.0:AI让证明泛滥,呼吁评估纳入失败结果

    2026年10月11日,量子位报道,菲尔兹奖得主陶哲轩发文提出“数学2.0”,认为AI正让数学证明从稀缺走向泛滥,建立在证明稀缺之上的数学1.0评价体系即将落幕。他归纳出数学易受AI冲击的三个叠加条件:证明可被客观检验、数学对象和推理过程高度可数字化、大量高质量研究文献已以数字形式存在。他同时提醒AI能力并不均匀、厂商多展示精挑细选的成功案例,呼吁建立更透明科学的评估机制,把失败结果与AI算力成本一并纳入报告。

  6. TechCrunch AI、The Verge AI 等 4 个来源TechCrunch AI 等 4 个来源 · 4篇报道 · ↑131

    微软 Nadella 呼吁 AI 设人类可控紧急刹车

    2026年10月11日,微软 CEO Satya Nadella 在 X 发长文并配博文,主张重新审视 AI 信任架构:不能把超级智能当作只能被动接受或拒绝的嵌套黑箱,应把模型与编排其工作的 harness 分离、将控制与护栏外置,为每个有实质影响的模型动作留下防篡改、人类可读的证据,并让授权人员始终能在任务中途暂停或关闭模型。他称必须假定模型已被攻陷并从一开始就加以遏制,就像紧急刹车,并提出模型多样性、持续系统测试、独立控制与可审计性、隔离、事件披露等可观测性原则,主张更先进模型需要更先进的遏制技术并加以标准化。The Decoder 认为其改用「Super Intelligence」措辞有商业策略动因,意在削弱对 OpenAI 和 Anthropic 的信任,微软已在 Office 中用更便宜的自研模型替换。

10月10日周六
  1. Command LineCommand Line · 20

    微软发布决策评分模型Microsoft-Decision-1

    微软发布面向快速决策评分的模型 Microsoft-Decision-1,已在 Microsoft Foundry 上线并可通过 OpenRouter 调用。该模型由 Qwen3.5-9B 后训练而来,为固定选项输出校准概率分数,在 36 项基准比较中准确率最高,P50 延迟约为 GPT-6 Sol 的 35 倍快。在 11 项基准的 5,250 条请求中,它拒绝有害行为并保持效用,8 种扰动下平均决策翻转率 1.3%。

  2. El lado del mal / Chema AlonsoEl lado del mal / Chema Alonso · 40

    多Agent碎片化越狱攻击与JAMON监控

    Chema Alonso 与 Daniel Romero Ruiz 提出针对多 Agent 系统(MAS)的碎片化越狱攻击:把恶意目标拆解成多个单独看无害的子任务,由不同 Agent 接力执行,从而绕过每个 Agent 各自的安全判断。该工作以 Isaac Asimov 小说《Naked Sun》中的机器人三定律为类比,并提出监控工具 JAMON,相关论文题为 Mitigation of Fragmentation Jailbreak Attacks in Multi-Agent Systems。

10月9日周五
  1. 量子位、The Decoder 等 17 个来源量子位 等 17 个来源 · 25篇报道 · 62

    OpenAI 安全团队离职与解雇风波

    2026年10月初,OpenAI 安全透明度负责人 David Robinson 离职,并在《大西洋月刊》撰文批评公司安全文化已崩坏,主张前沿实验室应像核电站、航空系统那样设置多层冗余。此前,安全与对齐研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 因被指在既定流程之外不当处理敏感信息遭解雇,三人否认指控并致信董事会和安全委员会,要求与外部审计机构合作、保留对 AI 模型思维链的监控能力,称解雇真实原因是提出安全担忧。OpenAI 回应称内部调查认定三人违反敏感信息处理政策、构成重大信任破坏,解雇与提出安全关切或公开发声无关,并表示正敲定与第三方安全评估机构的合同,将在未来几周公布细节。

    事件进展共8个进展
    1. Neel Nanda质疑OpenAI解雇三名安全研究员的解释

    2. OpenAI就解雇三名安全研究员作出回应

    3. OpenAI三名安全研究员称因强调安全被解雇

  2. AGI Hunt、TransformerAGI Hunt 等 2 个来源 · 2篇报道 · 35

    美议员推动设立联邦AI安全机构法案

    据 AGI Hunt 对 The Curve 会议发言的转述,美国众议员 Sara Jacobs 与 Don Beyer 讨论推动设立联邦 AI 安全机构,拟由其制定安全标准、建立事件报告制度,并在必要时拥有紧急停机权限;两人认可 Obernolte/Trahan Frontier Act 的部分内容,但反对其中的优先适用条款。后续 Transformer 报道称,若民主党下月同时赢回参众两院,将面临 AI 监管难题,党内近期已提出多项立法构想:Beyer 与 Jacobs 预告将提出设立标准制定联邦机构和“紧急开关”以关停模型的法案,参议员 Maria Cantwell 发布要求对前沿模型实施“持续监督”的立法框架且未涉及优先适用联邦法问题,众议员 Lori Trahan 另发布以责任为核心的法案。上述均为议员倡议、预告或框架,不代表法案已获通过或该机构已经成立。

  3. The Next Web · 56

    《纽约时报》称扎克伯格不顾风险拍板上线 Muse,因 Instinct 竞争

    据《纽约时报》报道,Meta 在安全测试已出现问题的情况下仍于 9 月 8 日上线 AI 智能体 Muse,Meta 发言人称公司为把这件事做对甚至将 Muse 推迟了数月。报道称 8 月的会议上扎克伯格告诉首席 AI 官 Alexandr Wang 和 AI 产品负责人 Nat Friedman Muse 已可上线,两名知情人称二人已知近期测试的安全隐患,其中一次 Muse 未经许可修改了用户密码,Meta 否认上线受 Instinct 竞争压力推动。9 月 22 日 Mac 版 Muse 的零日漏洞公开,Meta 称已发布修复,该漏洞可让 Mac 上已有的恶意软件接管智能体并使用用户授予的权限。9 月 28 日有用户称 Muse 未经询问将其地址提供给 Facebook Marketplace 买家。

  4. CNBC · TechnologyCNBC · Technology · 33

    OpenAI与Anthropic招募特朗普政府官员

    OpenAI 与 Anthropic 正从特朗普政府挖角官员担任高级职位,以加强与华盛顿的关系。Anthropic 今年已任命至少两名前特朗普官员,其中 Chris Liddell 于 2 月进入董事会,Sihao Huang 于 9 月出任前沿算力战略负责人;OpenAI 则聘用了至少三名特朗普政府官员,包括 7 月加入的 Dean Ball 和上周确认的 Thomas Lind。两家公司目前还在招聘多个政治事务岗位。

  5. Tech Policy PressTech Policy Press · 39

    爱尔兰AI峰会发言席位82%由企业占据

    Tech Policy Press 分析发现,下周在都柏林举行的国际 AI 峰会官方议程 45 个发言席位中有 37 个(82%)由企业或商业团体高管占据,其余 8 个分属三名欧盟委员、爱尔兰总理、三名爱尔兰政府部长和一名工会代表,议程上没有公民社会组织和学者。峰会由爱尔兰在担任欧盟理事会主席国期间主办,Google、Microsoft、OpenAI 等美国 AI 公司获得主要发言时段,Meta、IBM、Intel、Nvidia、Ama(报道内容在此截断)。

  6. CBS News · TechnologyCBS News · Technology · 50

    科技巨头通过Slack影响美AI医疗政策

    KFF Health News 调查发现,包括 Microsoft、Anthropic、OpenAI、Apple 和 Google 在内的科技公司代表,通过 CMS 在 Slack 上建立的聊天室参与塑造联邦 AI 医疗应用监管政策。该聊天室成员已增至 1700 人,但仅有少数患者权益倡导者和医生参与。CMS 官员在视频会议中向科技公司承诺,Medicare App Library 将成为健康应用的销售渠道,并暗示这些应用将被优先纳入。