LessWrong 长文反思“电路”概念:作者称神经网络计算需更清晰本体论
Slouching Towards Interpretability: Thinking About Computation in Neural Networks
AI 导读
作者在 Iliad Fellowship 期间撰文主张,神经网络计算需要更清晰的本体论,电路达尔文主义当作“实现细节”的部分才是深层困惑。文章对比“修剪”与“析出”两种电路起源图景,称预测随“电路是什么”等设定大变、朴素猜测似乎并不自洽。第三部分给出“定义电路”的未完成综合,结语设想“基础可解释性理论”。