作者回顾Christiano《Prosaic AI alignment》:称其大体说中,但错判监督学习
"Prosaic AI alignment": 10 years later
AI 导读
Paul Christiano 十年前发表的《Prosaic AI alignment》迎来十周年,回顾文章称其预判基本应验。此后确实造出强大而通用的系统,却未获得对智能本质的新理解,只知智能可产生于预测下一个 token。他看错的一点是,超人类能力也来自监督学习,先是 AlphaFold,后是 LLM。