Turing Award laureates and other researchers analyze the possibility of an intelligence explosion triggered by automated AI R&D and policy responses
信息化观察网 - 引领行业变革
AI summary
On September 28, 2026, Turing Award laureates and researchers from the University of Cambridge, the University of Oxford, OpenAI, Anthropic, Microsoft and other institutions jointly published a paper (https://arxiv.org/abs/2609.36054),分析AI研发自动化引发智能爆炸的机制、证据与社会影响。文中援引Anthropic报告称,经审核通过的代码中AI编写占比从2025年1月的个位数升至2026年5月的80%以上,仅需人类高层次监督的研发工作占比在2026年3月至8月间从1%增至26%。论文认为,软件驱动的智能爆炸包含两个相互强化的反馈环节,但受收益递减、算力与数据限制等制约,研发自动化的生产率增益尚未达到触发门槛,较新系统可能正在接近。论文提出能力增长超出社会适应速度、人类监督被削弱、权力制衡遭侵蚀三类风险,建议提前加强监测、建立约束机制并提升社会适应能力。
Related papers