生长之物的美：Dean Ball 论可解释性与 AI 政策

Dean Ball 撰文评论前 OpenAI 研究员 Nick Cammarata 关于机制可解释性的新观点。Cammarata 认为，以往把神经元当作人类式概念来看是错的，神经元更像控制流，含义随训练层层累积，因此模型本身就比想象中更可解释。他重新审视 2017 年视觉模型中那个猫与车混合的经典神经元，认为它检测的是 V 形物体，并把这种特性称为递归泛化。Ball 指出，该分析主要依赖 Cammarata 的主观判断，技术论文即将发表，而且理解数以百万计神经元之间的交互仍存在大量不确定。Ball 还推演，若可解释性接近解决，关注灾难性对齐风险的人会欣喜，而更担心权力集中与劳动力市场的人可能视其为坏消息。