Goodfire 研究称神经网络本就已经干净
Neural Networks Are Already Clean - Goodfire
AI 导读
Goodfire Research 提出,早期模型生物中出现多义性的原因并非叠加,而是若干普通且大多可以修复的问题。该机构称,目前已经能理解参数量高达数万亿的模型中大多数神经元,并认为机制可解释性的前景可能远比此前预期乐观。
推荐理由
Goodfire 认为多义性的成因不是叠加,而是若干可修复的普通问题,机制可解释性的前景可能好于此前预期。
阅读原文