SAE 特征何时可解释？论文提出面向 EEG 基础模型的验证阶梯
When Is an SAE Feature Interpretable? A Validation Ladder for EEG Foundation Models
AI 导读
论文指出，在 EEG 基础模型上仅凭扰动敏感性判断 SAE 潜在特征含义容易误判。研究覆盖三个骨干模型、三个 EEG 数据集和三种网络深度共 27 种设置：移除 alpha 频段活动对潜在特征激活的改变是等宽 sham notch 的 7.3 倍（95% CI [6.2, 8.7]），但 alpha 滤波删除的信号也远多于 sham；按被移除的频谱能量归一化后，该比值降至 0.28（95% CI [0.22, 0.36]），27 种设置中无一超过 1。在干净 EEG 上，这些因 alpha 移除而被选中的潜在特征与相对 alpha 功率略呈负相关（平均 r = -0.073），不支持简单的 alpha 检测器解读。