读 I. J. Good 1964 年《关于第一台超智能机器的猜想》
Reading Speculations Concerning the First Ultraintelligent Machine
AI 导读
LessWrong 作者细读 I. J. Good 1964 年的《关于第一台超智能机器的猜想》,对照当今 AI 进展检验其预言。作者认为他预见了靠强化从经验中学习的大型人工神经电路,“机器足够温顺”的前提对应今天让 AI 研究 AI 对齐的路线,但没料到高吞吐先于高智能到来。AI Futures Project 现预计智能爆炸 2027 年开始。