AI 研究者对自动化 AI 研发与智能爆炸的看法

2025 年 8 月至 9 月，Severin Field 等研究者访谈了来自 Google DeepMind、OpenAI、Anthropic、Meta 及 UC Berkeley、Princeton、Stanford 的 25 位前沿 AI 研究者。尽管 AI 系统尚未实现递归自我改进，25 人中有 20 位将自动化 AI 研究列为最严重和紧迫的 AI 风险之一。受访者一致预测 AI 智能体在编程、数学乃至 AI 研发上的能力将不断提升，从助手或工具逐渐转变为自主 AI 开发者，并认可递归自我改进的可能性，但在时间线与治理机制上分歧明显，学术研究者比前沿实验室研究者对爆炸式增长场景更持怀疑。17/25 的受访者预计具备先进编程或研发能力的 AI 系统将越来越多地留给 AI 公司或政府内部使用、公众无法接触。受访者对设定监管红线意见不一，但几乎所有人都支持基于透明度的缓解措施。