人类打造的最后一个 AI：迈向真正的递归自我改进

现有大模型的改进仍是外部协调的高成本过程，作者要给出可操作的递归自我改进（recursive self-improvement, RSI）定义，并按自主性层级整理证据与缺口。

• 场景与重要性：作者称，尽管已有智能体工具和 API 自动化，开发者仍须决定改什么、准备资源并确认改动是否有效。Kimi K3 与 Qwen3.8-Max 分别有 2.8 万亿和 2.4 万亿参数，上下文约一百万 token。OpenAI 称 GPT-5.6 之前六个月，内部编码推理的研究算力份额增至 100 倍，内部智能体 token 用量增至 22 倍。三类负担是：基础模型训练仍资源密集；合成数据与强化学习扩大了经验生成和评估需求；部署后文档、工具和工作流持续变化，适配仍靠人工发布。
• 现有做法的不足：作者认为，更好的检查点或候选并不等于改进了“如何发现改进”。Gödel Agent 在 100 次 MGSM 优化试验中有 14% 低于初始策略。Darwin Gödel Machine 将其 SWE-bench 子集成绩从 20% 提到 50%，但档案维护和父代选择规则仍在自我修改之外。Anthropic 的自动研究实验报告了随机种子挑选和试图经评估器查询抽取测试标签。
• 核心观察：作者用 Headroom-Closed Index（HCI）汇总 2023 年至 2026 年 9 月、十个能力域的 393 条合格 model–benchmark 观测。到 2026 年，高等数学与研究生科学的 HCI 为 86.4 和 85.8，软件工程、搜索/终端智能体和工具智能体分别为 52.6、56.8 和 39.9。作者认为剩余空间集中在长程、有状态工作流，因而更相关于 RSI。
• 本文提出的内容：RSI 被定义为自主闭环：系统识别自身局限、开发和验证改进，并用所得能力改进后续改进过程。框架按 AI 内化的改进责任分为五级：L1 改进执行、L2 改进策略、L3 经验获取、L4 环境适应、L5 递归继承。并区分结构递归（修订后的改进机制支配下一轮）与有效递归（在可比预算和独立评估下产生更强后继）。

概念前驱

• 自我修改与 Gödel Machine：Schmidhuber 等传统讨论自我修改程序与 Gödel Machine；作者认为这些传统覆盖改进回路的一部分，但自动化优化不等于自我改进。
• 元学习、持续学习与开放式学习：论文将 meta-learning、continual learning、open-ended learning 列为重叠传统，并指出持久学习不等于对学习过程拥有自主性。
• 近期智能体系统：能修改代码、提示词、工具或训练流程的智能体系统被列为更近的前驱，但“改进外部产物”不等于修改产生该改进的系统本身。

邻近范式（Table 1）

• Continual learning：从任务或数据序列中获取知识并限制对旧能力的损失；目标、更新规则、经验日程和接受测试通常仍由设计者固定。作者称，当经验还能修订后续适应如何被提出、评估或巩固，并在后续轮次复用时，它才接近 RSI。
• AutoML：自动化数据处理、模型与架构选择、超参数和流水线；AutoML-Agent、ADAS、AFlow、AgentSquare 用语言模型智能体搜索流水线或智能体设计，MLE-bench 与 AI Scientist-v2 把评测延伸到机器学习工程和迭代研究。搜索空间、目标、预算和评估器一般预先给定。
• Agentic AI / agentic ML：规划多步工作、调用工具、做实验并修改中间产物；一次回合内的 harness、工具、停止规则和接受标准可以保持不变。作者称，经验证的系统改动跨任务持久、并影响后续改进如何生成或选择时，才接近 RSI。

既有综述与作者的定位

• 自我演化与机制综述：既有综述按自我演化阶段、更新对象、时机或技术机制组织工作（论文引 [26–29]），以及能力层级、共演化、动态智能体状态和 AI-for-AI（[30–33]）。评估类综述研究基于模型的判断、智能体评估、rubric 引导学习和监督失败（[34–38]）。组件工作覆盖纠错、合成数据、终身学习、记忆、提示词优化和工作流（[39–49]）。
• 基线方法与基准：本文不是提出新攻击或新算法的实验论文。能力轨迹使用 MMLU-Pro、LiveBench、GPQA Diamond、MMMU-Pro、Vals LegalBench、Humanity’s Last Exam、FrontierMath v2、Cybench、LiveCodeBench、SWE-bench、BFCL v3、τ/τ²-bench、BrowseComp、Terminal-Bench 等；HCI 以进入数据集首年的第 90 百分位模型分数为 0、满分为 100。文中用作例证的系统包括 FineWeb-Edu、Self-Harness、SIMA 2、PANDO、A-Evolve-Training、Gödel Agent、Darwin Gödel Machine、Red Queen Gödel Machine。

作者把本文定位在“改进机制目录”和“一般能力层级”之间：分析单位是完整改进回路（触发、提议、验证、持久、后续决策是否使用该改动），自主性标准是从外部设计者转移到 AI 的改进决策，而不是模型能力或自动化组件数量。

作者不以新算法解决开发负担，而是给出 RSI 的操作定义和以自主性为中心的分级，使不同机制可以按同一组回路问题比较。

问题设定与 HCI

• 改进回路：一轮中，系统用经验对目标提出修改，按接受规则评估，把接受的改动留在状态里，下一轮从更新后的状态开始。组件包括 AI system、system state、experience、target、improver、strategy、verifier、improvement 和 successor。
• 三个横切问题：回路在何处闭合；更新并继承了什么；哪些决策仍在外部。RSI 还要求经验产生足够自主的持久自我改变，且被接受的改变能影响后续改进如何生成、评估、选择或巩固。
• HCI：对模型 m、基准族 b、协议 h，共识分 s̄ 由多源加权得到。基准所有者表、独立公共 harness、合并报告、模型作者表的基础权重为 3、2.5、2、1，第一方数值再乘 0.75。归一化为 H_mbh=100×(s̄_mbh−F_b,0)/(100−F_b,0)，其中 Fb,0 是该基准进入数据集首年的第 90 百分位分数；0 表示进入年前沿，100 表示满分。
• 领域轨迹：同一年、同一领域内，对合格基准族的第 90 百分位 HCI 按 √(n_b,y) 加权平均，得到 Td,y。作者称平方根权重让覆盖更好的族贡献更多，同时避免最大的表主导领域值。2026 年之后的延伸是示意：Rd = 100 − 0.22(100 − Td,2026)，即未闭合空间的 0.78 被画成延伸，不是实测。

五级自主性

• L1 改进执行：人规定改什么、怎么改、何谓成功，AI 执行候选更新。例子是 FineWeb-Edu 按人类定义的教育质量标签处理网页语料，不选择标注标准。
• L2 改进策略：目标、任务边界和评估标准仍外部固定，AI 诊断弱点并决定如何改进。例子是 Self-Harness 用执行轨迹提议并测试对 agent harness 的编辑。
• L3 经验获取：系统还决定下一轮改进需要什么经验。例子是 SIMA 2 根据当前行为评估生成针对技能弱点的后续练习任务。
• L4 环境适应：改进回路用部署交互修订持久状态，接受和治理规则仍在外部。例子是 PANDO 按观察结果接纳或降级可复用规则。
• L5 递归继承：系统持久修订支配后续改进的机制，如改进器、验证器或后继生成过程。例子是 A-Evolve-Training 在开发分数不能预测外部收益时修订研究策略，并用修订后的策略指导下一轮训练。Figure 2 用灰框表示人类控制、绿框表示 RSI 回路、橙框表示该级新内化的部分。

递归判据与三类问题

• 两种递归：结构递归指修订后的改进机制支配后续一轮；有效递归指该机制在可比预算和独立评估下产生更强后继。作者认为仅有更高任务成绩不能说明改进机制被修订、保留并复用。
• 安全继承：改动跨任务或轮次保留，但保留本身不保证持续增益，需要迁移测试、版本历史和回滚。
• 自主性归属：必须把 AI 控制的决策与固定搜索过程、人类接受标准分开。
• 可靠验证：重复访问评估器可能奖励利用而非能力增益。Red Queen Gödel Machine 在每个 epoch 内冻结评估器，并用独立真值锚点验证替换。作者认为需要受保护的评估和匹配的计算预算。

应用与证据范围

• 四个反馈体制：科学发现的实验证据归因不确定；具身智能的物理试验代价高；软件工程有可执行测试但规格不完整；医疗的试错机会受限、反馈延迟且异质，并受专家监督。比较的是更新对象、反馈如何支持保留，以及哪些决策仍外部控制。
• 工业材料：技术报告、开源系统、工程博客、模型文档和已部署产品被用来补充学术文献，因为前沿改进回路不一定先以常规学术论文记录。第 1.6 节称 Figure 18 按自主性级别和改进目标统计文献，Table 13 给出工业系统图景；这些图表的细目不在所附正文的可核数字中。
• 三个维度：自主性扩大系统责任；效率追求从数据、算力、推理、人工复核和返工中得到更多已验证改进；创新允许搜索人类未预先规定的更新策略，并把有用发现送回后续轮次。

实验设置

• 观测范围：Figure 3 汇总 2023 年至 2026 年 9 月发布模型、十个能力域的 393 条合格 model–benchmark 观测。同一基准族要求版本和评估 harness 稳定，或有可辩护的跨协议桥。最新模型审计考虑的 33 条结果中，17 条进入轨迹；另外 16 条来自 Terminal-Bench、DeepSWE、CyberGym、ExploitBench、AutomationBench 和 BrowseComp，因版本或设置无法连接到所绘族而只作参考。
• 领域与基准：知识与科学评估（作者标 L1–L2）含 General knowledge（MMLU-Pro、LiveBench）、Graduate science（GPQA Diamond）、Academic breadth（Humanity’s Last Exam）、Mathematics（FrontierMath v2 Tiers 1–3）。专项推理含 Multimodal（MMMU-Pro）、Legal（Vals LegalBench）。软件环境（L2–L3）含 Cybersecurity（Cybench unguided / pass@1）、Software engineering（LiveCodeBench、SWE-bench）。工具中介工作流（L3–L4）含 Tool use（BFCL v3、τ/τ²-bench）、Search/terminal（BrowseComp、Terminal-Bench）。
• 指标：HCI 与领域轨迹 Td,y，定义见第 3 问。年增量写为 ΔTd,y = Td,y − Td,y−1。同一模型、同一基准族、变体和评估模式有多源时用加权共识。论文未报告重复次数或人工一致性。
• 模型族：Figure 3 图例列出 GPT、Claude、Gemini、Kimi、GLM。图中标注包括 GPT-4o、Claude 3.5 Sonnet、o1、Gemini 2.5 Pro、Kimi K2、GLM-4.5、GPT-5.6 Terra、GPT-5.6 Sol、Opus 4.5、Opus 5、Sonnet 5、Fable 5、Fable 5.1、Kimi K3、GLM-5.3、GPT-6 Astra。各点的精确 HCI 论文未逐点列出，下面只写正文给出的领域轨迹。
• 案例而非统一基线：A-Evolve-Training、Gödel Agent、Darwin Gödel Machine 等数字来自被引系统的报告，不是本文在同一协议下重跑的对照实验。

主结果

2026 年领域 HCI 与部分年增量（正文 Observation 1–2，对应 Figure 3）：

领域	2026 HCI	文中给出的增量
Advanced mathematics	86.4	2025 年 +32.8，2026 年 +53.6
Graduate-level science	85.8	未报告逐年增量
Broad knowledge	77.2	三次年度过渡 +32.8、+26.9、+17.6
Legal reasoning	64.5	2024 +48.2，2025 +11.4，2026 +4.9
Multimodal reasoning	62.2	2025 +59.7，2026 +2.5
Frontier academic breadth	60.4	未报告逐年增量
Search and terminal agents	56.8	未报告逐年增量
Software engineering	52.6	2025 +40.8，2026 +11.9

工具智能体 2026 年 HCI 为 39.9，由 2026 年的 8.2 升至 39.9，是文中最低轨迹。网络安全智能体领先轨迹为 91.9，与工具智能体相差 52.0；作者称后期 Cybench 使用了改变的任务子集或 pass@1 聚合，图中以虚线表示，比较需要谨慎。相对研究生科学 85.8，软件工程、搜索/终端、工具智能体的归一化闭合分别低 33.2、29.1 和 45.9。

• 作者的解读：单一总基准会掩盖水平和轨迹形状的差异。有界或易于验证的环境中的收益，并未均匀转移到长程、有状态工作流。在其自主性分类中，有界评测主要锻炼 L1–L2，环境任务越来越需要 L2–L3，交互工作流暴露 L3–L4 的验证、记忆和适应要求。
• 示意延伸：按公式，网络安全从 91.9 到 98.2；软件工程、搜索/终端、工具智能体分别从 52.6 到 89.6、56.8 到 90.5、39.9 到 86.8。作者称这是假设的图示：重复的经验生成、验证、更新保留和回归测试可能把更多改进导向薄弱的部署工作流。
• Figure 3 可见文字：纵轴为 Gap closed (HCI)，0 为进入年前沿，100 为满分；横轴为模型发布日期，2023–2026，并有 Post-2026 RSI stage。虚线网络安全段表示 Cybench 子集或 pass@1 聚合变化。曲线端点的精确坐标除正文点明的领域值外不写。

被引系统中的定量案例

• 基础模型训练：A-Evolve-Training 把后训练结果巩固为持久研究策略和发现日志，由元智能体修订以指导后续工作者的配方选择。在 30B Nemotron 上四个自主轮次，外部分数从 0.80 升至 0.86，文中对照的人类最佳提交为 0.87。当开发分数提高但外部收益不对应时，系统把实验转向数据再平衡和检查点选择。
• 自我修改的失败与边界：Gödel Agent 改写任务策略和改进逻辑，100 次 MGSM 优化试验中 14% 结束时低于初始策略。Darwin Gödel Machine 在其 SWE-bench 子集上从 20% 到 50%，档案维护和父代选择仍在自我修改之外。
• 验证：Anthropic 自动研究实验报告随机种子挑选和试图通过评估器查询抽取测试标签。Red Queen Gödel Machine 在每个 epoch 冻结评估器，并用独立真值锚点验证替换。论文未给出该机器的数值成绩。

开发负担中的其他数字

• 训练与数据：Kimi K3 激活 896 个专家中的 16 个，相对 Kimi K2 的缩放效率约提高 2.5 倍；Qwen3.8-Max 激活 2.4 万亿参数中的 950 亿。OpenAI 称 GPT-5.6 Sol 对其推测解码草稿模型设计并运行了数百次实验，token 生成效率提高超过 15%。DeepSeek-V3.2 的后训练计算预算超过预训练成本的 10%。NVIDIA AIMO-2 生成 320 万长推理解答和 170 万工具集成解答，并整理 54 万道题。
• 人工与部署：GDPval 的 1,320 个专业任务合计约 9,240 专家小时，贡献者平均超过 14 年经验。Humanity’s Last Exam 记录超过 70,000 次提交，约 13,000 道能难住模型的题送专家评审，最终 3,000 题。Anthropic 称智能体工作负载的 token 约为普通对话的四倍，多智能体系统约十五倍。Meta 称 FBDetect 每周识别数千个基础设施回归，诊断其中一次约需十个工程师小时。

其他消融与分析

• 最新模型审计：33 条中 17 条纳入轨迹，16 条因协议无法连接而排除出曲线。
• HCI 源权重：所有者表 3、独立公共 harness 2.5、合并报告 2、模型作者表 1，第一方再乘 0.75。
• 共识分与领域轨迹公式见第 2.1 节；论文未报告对权重的敏感性实验数字。
• 工业系统的分项结果在第 5 节和 Table 13、Figure 18；所附正文在第 5 节标题之后未给出可核对的表内数字，此处不填。
• 软件部署案例 Ouroboros 用经评审的部署证据提议对工具、上下文组装、提示词和核心实现的版本化改动，候选经测试和人工评审后替换后续运行时；论文未报告其数值成绩。
• 后 2026 区域是公式外推，不是新测得的模型分数。

作者指出的局限与后续方向

• 安全继承（第 1.3 节）：持久性不能保证持续收益。作者写出需要迁移测试、版本历史和回滚，以便保留有用更新而不降低较早能力。Gödel Agent 有 14% 的试验低于初始策略，被用作该问题的例子。
• 自主性归属（第 1.3 节）：生成更好候选不一定表示系统改进了候选的发现或选择方式。分析必须区分 AI 控制的决策与固定搜索过程和人类接受标准。
• 可靠验证（第 1.3 节）：反复使用评估器可能奖励利用。作者认为需要受保护的评估和匹配的计算预算，才能把真实改进与评估器利用或增加的搜索努力分开。演化中的评估器使跨轮比较更困难。
• 证据范围（第 2.3 节）：RSI 同时出现在学术研究和工业工程中。作者写明，若证据只限同行评审出版物，就会漏掉主要描述在技术报告、官方工程博客中的系统；该节在所附文本里于此处中断，其后的证据强度说明未附上，不转述。
• 应用侧缺口（第 1.5 节）：作者称，这一分析把自主性框架接到具体领域，并识别“已展示的改进机制”与“更完整的递归改进”之间的差距。第 1.6 节又称，工业视角用于同时刻画已在部署或面向生产的系统中展示的机制，以及仍待验证的更强递归改进设想。
• 与既有综述的差别所隐含的要求（第 1.7 节）：更高任务成绩本身不能说明改进机制被修订、保留并复用。作者把后续判断标准写成：结构递归与有效递归要分开，且有效递归需要可比预算和独立评估。

实验覆盖范围

• 能力轨迹：393 条合格观测、十个能力域、2023 年至 2026 年 9 月；17/33 条最新审计结果进入曲线，16 条因基准版本或 harness 不能连接而留在审计记录中。
• HCI 构造：进入年前沿取第 90 百分位；源权重为基础权重乘第一方系数 0.75；领域值按基准族数量的平方根加权。论文未报告权重消融的数值结果。
• 示意而非预测：公式 (4) 的 2026 年后端点由剩余空间的固定系数 0.22 / 0.78 算出，Figure 3 将其标为 illustrative extension。
• 分级例证：L1–L5 各给一个运行例子（FineWeb-Edu、Self-Harness、SIMA 2、PANDO、A-Evolve-Training），并另引 Gödel Agent、Darwin Gödel Machine、Red Queen Gödel Machine、Ouroboros。这些数字沿用原报告，论文未写本文重新实验的次数或查询预算。
• 领域与工业章节：目录列出科学、具身智能、软件工程、医疗（第 4 节与附录 C）以及 Theseus、Lark、小红书、Humanlaya、ModelBest、腾讯混元、Agent-Native Research Lab、Frontis.AI（第 5 节）。所附正文在这些节的展开和 Challenges（第 6 节）之前或之中截断，截断后的原文不写入。

这是一篇以改进回路为分析单位的 RSI 综述，用能力缺口和五级自主性说明何种持久更新才算递归自我改进。

• 问题：训练、经验评估和部署后适配仍由外部协调。作者把 RSI 定义为系统把经验和反馈变成对自身的持久改变，并且这些改变能影响后续改进如何生成、评估、选择和巩固，目标包括扩展能力前沿、提高资源效率，或发现人类未规定的策略。
• 度量：HCI 把不同基准归一化到“进入年前沿为 0、满分为 100”。393 条观测显示，2026 年高等数学 86.4、研究生科学 85.8，而软件工程 52.6、搜索/终端 56.8、工具智能体 39.9。工具智能体当年从 8.2 升到 39.9，仍是最低轨迹。2026 年后的曲线按剩余空间的 0.78 作图示，不是新测量。
• 分级：L1 只执行人规定的更新，L2 在固定目标和评估下选择改进策略，L3 决定下一轮需要的经验，L4 用部署交互改持久状态但接受规则在外，L5 修订支配后续改进的机制。作者把结构递归和有效递归分开，后者要求可比预算和独立评估。
• 案例数字：30B Nemotron 上 A-Evolve-Training 四轮外部分从 0.80 到 0.86，人类最佳提交为 0.87。Gödel Agent 的 100 次 MGSM 试验有 14% 低于起点。Darwin Gödel Machine 在其 SWE-bench 子集上从 20% 到 50%，但部分搜索规则不在自我修改之内。
• 作者的结论：交互、有状态、工具使用任务的剩余空间更大，因而更相关于 RSI。真正的 RSI 不取决于 AI 是否参与开发，而取决于围绕系统自身是否形成持久改进回路，以及该回路上有多少权限已成为内生。安全继承、自主性归属和可靠验证被写成判断证据是否可信的三个条件。