Zvi 评 Goodfire 神经元可解释性新论：多数神经元只对应一个概念，但对齐远未解决

LessWrong 作者 Zvi 梳理了对 Goodfire 研究者 Nick Cammarata「神经网络已然干净」一文的两极反应，认为这是关于神经元可解释性的重要更新，但离解决可解释性和对齐仍很远。Cammarata 称，早期模型中出现多义性的原因并非叠加，而是若干普通且大多可修复的问题，以及他所说的「递归泛化」；对 Qwen3-32B 的初步审计估计约 90% 的神经元极只有一个主要功能，约 7% 有两个相关功能，2% 至 4% 尚未被理解，在 Kimi K3 等万亿参数模型上结果类似。Dean W. Ball、roon 等 OpenAI 研究者称其意义可比「Attention Is All You Need」，Neel Nanda、Leo Gao、Joshua Achiam 与 Eliezer Yudkowsky 则认为进展有限，仍需更严格地评估解释本身。