DAFI：面向 SAE 特征双端解释的智能体方法
From Input to Output: A Flexible Agent for Dual-End Interpretation of Sparse Autoencoder Features
AI 导读
论文提出功能解释（functional interpretation），把 SAE 特征刻画为从激活输入语义到干预下输出效果的映射，并给出智能体方法 DAFI，通过组件级反馈主动收集证据并迭代改进输入端、输出端与功能解释。其短上下文 token 探测可按需收集激活证据，无需全语料扫描。在 GemmaScope 上，DAFI 的 Input score 比 SAGE 高 13.1 个百分点，Output score 比 Token Change 高 38.9 个百分点，且比通用编码智能体更省 token。