研究：表征简洁与电路规模在阈值依赖下出现分离
Representational Simplicity and Circuit Size Dissociate in a Threshold-Dependent Way: A Controlled Test via Adversarial Training
AI 导读
论文以对抗训练作为受控手段，检验稀疏自编码器可分解性与集中特征归因是否真能预测更小、更易逆向的因果电路。作者从同一 GPT-2 Small 检查点出发，施加匹配的标准与对抗持续训练，要求两种条件都保持间接宾语识别能力并通过独立鲁棒性验证，再从 SAE 可分解性、SAE 特征在任务归因中的参与度、以及从原始计算图恢复的忠实电路规模三个维度比较。结果显示鲁棒模型更易被 SAE 分解、任务归因中涉及的 SAE 特征更少，但电路规模随忠实度阈值变化：在能力匹配的 IOI 任务上，85% 忠实度以下标准模型领先或持平，而在 90% 和 95% 高忠实度下鲁棒模型所需边数显著更少。该模式在主对比对上确立，表征趋势在七点扫描和第二个语料上可复现。