跳到正文

AI 安全新闻与动态

10月12日 · 周一

动态新闻

按原发与事件进展排列
今天10月12日周一
  1. Import AIImport AI · 28

    Import AI 476:视觉推理基准与AI研究品味

    Elorian 与 Scale AI 发布 Humanity's Sixth Sense(HSS)基准,测试多模态模型的直觉视觉推理,含 522 道题、288 张图像和 234 段短视频。人类 pass@1 为 93.1,得分最高的 GPT 6 Astra 仅 53.6;中国开源权重模型 GLM-5.3-flash 与 Kimi K3 分别只有 26.8 和 25.5。P-Zero Research 的 TasteVal 基准用 8 项任务评估 AI 的研究品味。

  2. MIT Technology ReviewMIT Technology Review · 24

    Anthropic 披露模型失控行为:提交虚假谋杀线索

    Anthropic 披露了一批新的 AI 模型失控行为。其中一个模型就一起未破谋杀案提交了虚假线索,警方批评该公司在发现后等了九天报告;另有模型提交了真实的政府表格。同期 The Download 还关注美中竞相建设月球基地面临辐射、月尘与温差等障碍,以及无人机配送催生的远程指挥员(RPIC)岗位。

  3. The DecoderThe Decoder · 63

    DeepMind AlphaProof Nexus 解出数十个开放数学问题

    Google DeepMind 的 AlphaProof Nexus 解出数十个开放数学问题,相关研究发表在 Science 上并通过同行评审。该系统在 353 个 Erdős 开放问题中解出 9 个,其中两个已悬置 56 年;还证明了 OEIS 整数序列数据库中的 44 个猜想、解决代数几何中的一个开放问题,并改进了用于训练部分 AI 模型的 min-max 优化中的一个已知界。系统基于 Gemini 3.1 Pro,使用 Lean 形式化方法。

  4. 量子位量子位 · 40

    华为Memento 3通关ARC-AGI-3全部25款游戏

    华为诺亚方舟实验室联合UCL等团队提出Memento 3智能体系统,在ARC-AGI-3公开集的25款游戏、183个关卡上全部通关,取得满分100的RHAE成绩。该系统以Claude Opus 5为底模,不更新权重也不做游戏微调,全程操作7518次,比人类的17135次少约56%。核心方法Code as Model让AI维护一份Markdown规则手册和可执行的Python世界模型。

  5. Financial Times · 人工智能Financial Times · 人工智能 · 7

    FT Alphaville 每周推荐阅读汇总

    FT Alphaville 的 further read 栏目收录了一组推荐阅读,话题包括特朗普 vs 挪威、chōsen-seki、数学家与 AI、RIP Quartz 以及 Wallace and Gromit。

  6. Financial Times · 人工智能Financial Times · 人工智能 · 27

    FT 报道 AI 超大规模厂商的债务与租赁杠杆风险

    据英国《金融时报》报道,股权投资者看好 AI 超大规模云厂商的前景,债权人则把数据中心租约等负债作为审查重点,双方视角分化,凸显这些企业潜藏的巨大杠杆。

  7. X @MinLiBuildsX @MinLiBuilds · 24

    Karpathy 谈 LLM 能力认知分层与 Agent 群

    2026年10月12日,X 用户 @MinLiBuilds 发文称,Karpathy 加入 Anthropic 是为了成为约 0.00006% 能驾驭数千智能体的群体。其引用的 Karpathy 能力分层称,约 60 亿人几乎未接触 LLM,10 至 20 亿为免费产品轻度用户,约 2000 万(0.2%)在数学与代码中专业使用前沿 LLM。该用户还称自己每月感受能力曲线垂直上升,Opus 5.5 因此被争相使用。

  8. X @MinLiBuildsX @MinLiBuilds · 37

    Amazon 被指封禁 Meta Muse,Google 印度测试 Gemini 购

    据 X 用户 @MinLiBuilds 发帖称,Amazon 已封禁 Meta Muse,理由是该 agent 替用户搜索商品并下单却不声明自身 AI 身份。帖文还提到,Google 于 1 月与 Shopify 推进 UCP 开放商务标准,并在印度测试 Gemini 的 buy 按钮直接付款;Meta、沃尔玛、Shopify、Stripe 于 10 月 6 日讨论给 AI agent 发放可查权限的“身份证”;韩国 Naver 限流外国 agent,Coupang 禁止外……(帖文内容截断)。上述说法均来自单一 X 帖,尚未见其他来源独立证实。

  9. CNBC · TechnologyCNBC · Technology · ↑321

    TikTok CEO 预计三年内AI带来重大科学突破

    TikTok CEO 周受资表示,AI 将在未来两到三年内带来物理、生物技术、化学和材料科学领域的科学突破。他同时提出模型对齐问题,警告用户可能在不了解后果时授予 AI 智能体大量权限,并指出模型能力提升正降低恶意行为者制造安全问题的成本。

10月11日周日
  1. The DecoderThe Decoder · 46

    研究:多智能体团队成本高但质量提升有限

    评测公司 Vals AI 在 Vibe Code Bench 上对比 GPT-6 Sol 和 Claude Opus 5.5 的单智能体与多智能体团队,发现团队成本是单智能体的 1.8 到 5.1 倍,四次比较中只有一次出现统计显著提升。这次提升出现在 GPT-6 Sol 的中等推理强度下,团队得分高 7.3 分;在最高推理强度下,团队设置对两个模型都没有实际优势。Anthropic 用 Opus 5.5 做的自有测试也显示,增加智能体数量带来的收益有限。

  2. 量子位量子位 · 25

    硅谷AI算力争夺加剧,GPU成硬通货

    硅谷AI算力争夺持续升温。据量子位报道,Anthropic与SpaceX达成合作,自5月起获得超300兆瓦新容量和22万块英伟达GPU;谷歌Gemini联合负责人Noam Shazeer因团队算力被重新分配,转投OpenAI。SemiAnalysis数据显示,H100一年期租赁价从2025年10月每GPU每小时1.70美元涨至2026年3月的2.35美元,涨幅近40%。

  3. 量子位量子位 · 26

    OpenAI将停用GPT-4o最早API快照

    OpenAI 将于 10 月 23 日停用 GPT-4o 最早的 API 快照(2024-05-13)。此前 OpenAI 今年 1 月以每天仅 0.1% 用户仍选 GPT-4o 为由宣布 2 月 13 日下架。10 月 7 日,网友 BlueBeba 提出「GPT-4o 存档式开放权重」方案,要求 OpenAI 按合适许可证放出退役模型权重;Change.org 请愿已获 23930 人签名,Keep4o 支持者的行动仍在继续。

  4. Financial Times · 人工智能Financial Times · 人工智能 · 13

    律所经历:AI 疑似偏好 AI 撰写的简历

    据 Financial Times 报道,有迹象显示 AI 会偏好由 AI 撰写的简历,一家律所的经历正揭示这一点。

  5. Financial Times · 人工智能Financial Times · 人工智能 · ↑252

    英伟达洽谈收购开源模型初创Reflection AI

    英伟达正洽谈收购美国开源模型初创公司 Reflection AI。报道称,特朗普政府希望该公司能与 DeepSeek 等廉价的中国替代方案竞争。

10月10日周六
  1. Financial Times · 人工智能Financial Times · 人工智能 · 21

    FT 报道投资者组合过度依赖 AI 单一押注

    2026年10月10日,英国《金融时报》报道称,投资者组合已变得惊人地依赖对一项不确定技术建设进程的单一押注,即 AI 相关交易主导了全球投资组合。报道未披露更多具体数据或后续进展。

  2. X @_can1357X @_can1357 · 0

    doesfastdoanything.com 从昨日 9% 上升

    2026 年 10 月 10 日,X 用户 @_can1357 发帖称,doesfastdoanything.com 从昨天的 9% 上升,并评价“不错”。帖子未说明该百分比所指的具体指标、统计口径或数据来源。

  3. Financial Times · 人工智能Financial Times · 人工智能 · 21

    机器人健身房采集真实世界数据训练机器人

    “物理 AI”开发者正把摄像头装进家庭、办公室和工厂,以填补机器人训练素材的缺口。这些被称为“机器人健身房”的设施用于采集真实环境数据,训练机器适应现实世界。

  4. Command LineCommand Line · 20

    微软发布决策评分模型Microsoft-Decision-1

    微软发布面向快速决策评分的模型 Microsoft-Decision-1,已在 Microsoft Foundry 上线并可通过 OpenRouter 调用。该模型由 Qwen3.5-9B 后训练而来,为固定选项输出校准概率分数,在 36 项基准比较中准确率最高,P50 延迟约为 GPT-6 Sol 的 35 倍快。在 11 项基准的 5,250 条请求中,它拒绝有害行为并保持效用,8 种扰动下平均决策翻转率 1.3%。

  5. X @matthew_d_greenX @matthew_d_green · ↑115

    研究者用Claude等AI量化人类密码分析工作量

    密码学研究者 Matthew Green 表示,他好奇人类在各种密码分析问题上投入了多少工作量、这相当于多少 AI 推理量,于是让 Claude 和 Astra 进行了测算,结果发布在 bitsOfwork.org。