研究:SAE 相关性恢复的特征最高 77% 因果无效
用消融与转向干预审计稀疏自编码器特征的因果有效性
- arXiv
- 2607.12166
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- toy model (32->8, s=0.95, decayed)、toy model (nhidden=20)、GPT-2-small (gpt2-small-res-jb/blocks.8.hook_resid_pre)
摘要论文揭示 SAE 特征存在几何匹配与因果有效性脱节现象,提出读写解离机制与实践准则。