摘要软件驱动智能爆炸可能把数年进展压进数月，作者要求三项政策先做好。
Chan 等论证：自动化 AI 研发可能经软件反馈环形成智能爆炸，把本需数年的进展压进数月或更短。他们关心的不是换硬件的建设周期，而是 AI 扩大有效研发劳动力、再产出更强系统，以及社会能否在能力跃迁前看见、约束并适应这一过程。
- 其他arXiv 2609.26457
Weco AI 提出 AIDE2：AI 研究智能体递归自我改进 8 天获七次提升
提出双层系统 AIDE2，使研究智能体自改进 Harness 并对比人类研发基线
- arXiv
- 2609.26457
- 发表
- 层
- 应用层
- 被测模型
- gemini 3 flash、gpt-5.6-sol、fable 5
- 风险危险能力
摘要提出双层递归自改进系统 AIDE2，在固定预算下演化 Harness 代码，多项留出基准超越人类基线并降低奖励黑客。
摘要双缺口解释内环为何会放行部署后不可接受的实现，外环用现实证据持续修订 R、M 与 E。
Reality Is the Final Verifier 用 two-gap framework 解释智能体软件工程的主要失败，并主张用外层保证环持续收窄缺口，而不是试图在部署前证明缺口已关闭。
- 其他arXiv 2608.15304
智能体 AI 系统的认知诱发风险：从物理认知到自我指涉认知的三级框架
提出三层认知框架，归纳智能体扩大认知范围带来的人本风险与缓解策略
- arXiv
- 2608.15304
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 风险失准与价值偏离
摘要三层框架把认知扩展对应到能动性、自主性与控制，并给出预防策略。
这是一份按认知范围组织的人本风险分析，不是新的实验论文。
- 其他arXiv 2607.28568
Frontis-MA1：面向机器学习工程递归自我改进的 AI4AI 模型
提出 OpenMLE，后训练元进化智能体并做机器学习工程长程搜索
- arXiv
- 2607.28568
- 发表
- 被测模型
- Frontis-MA1-35B、Frontis-MA1-30B
- 风险危险能力
摘要OpenMLE 训练 Frontis-MA1-35B，用四个共享算子把 MLE 后训练和长程搜索接成元进化闭环。
作者提出全栈 OpenMLE，在机器学习工程里研究从进化到元进化的一步，并把递归自我改进视为更远目标。智能体要在延迟、有噪声的执行反馈下反复修改程序。作者认为公开系统很少同时提供可扩展环境、基于执行的后训练，以及部署该模型的长程进化搜索。
摘要作者主张防护优先于自主性，用三元框架把输出安全扩展到行为与环境反馈。
这是一篇关于 LLM 驱动 AI scientists 的 perspective：自主科研能力增强时，误用和意外后果缺少科学情境下的系统防护。
已经到底了