FAR.AI 提出 Codebook Features：让神经网络内部更稀疏可解释
Codebook Features: Sparse and Discrete Interpretability for Neural Networks | FAR.AI
AI 导读
FAR.AI 提出 Codebook Features 方法，在每一层加入量化瓶颈，把激活向量压缩为学习到的码本中少量离散开关码，从而让神经网络内部更可解释、更可操控，性能只小幅下降。该方法应用于最高 410M 参数的语言模型，发现的码覆盖标点、句法、词汇语义和高级主题等概念。实验中码比神经元更能预测简单文本特征，直接激活某个概念的码（如 dragon）多数情况下能让网络生成相关文本。即使量化瓶颈把激活向量的信息量压缩超过 100 倍，下一 token 预测准确率通常下降不到 5%。作者认为这为跨层电路发现、更精细的行为控制和更大规模可解释性方法提供了基础，并提供了论文与 HuggingFace demo。
推荐理由
FAR.AI 提出用码本量化瓶颈把激活向量离散化，为跨层电路发现和行为控制提供可迁移方法。