从概念对齐到因果接地：思维链忠实性的干预检验

CoT 是否调用了直接预测所依赖的同一批内部概念，并且这些共享概念是否因果驱动答案。

• 场景与重要性：作者把 CoT 视为看似暴露决策过程的技术，并提到安全监测等高风险场景。作者认为不忠实的 CoT 可能只是事后合理化，使用户过度依赖陈述理由与真实决策依据不一致的系统。
• 现有方法的不足：干预推理链、注入答案提示、遗忘 CoT 所用知识，以及比较输入归因，都主要从输入输出间接推断内部对齐。作者认为这些评测把模型当作黑箱，没有检验哪些内部计算因果驱动答案。
• 最接近的内部方法仍留缺口：Chen et al. (2026) 训练两个 SAE，把 CoT 特征补丁进无 CoT 运行，用答案概率增益检验推理概念能否引导直接答案。作者指出该方向没有同时回答三件事：CoT 是否以及在多大程度上调用直接预测所用的同一概念；这些共享概念是否因果驱动预测；这种关系如何沿模型深度分布。
• 核心假设：作者把忠实性写成内部概念接地。若 CoT 忠实于预测过程，它应在答案承诺位置调用与直接预测相同、且对答案有因果作用的概念。作者沿用 Parcalabescu & Frank (2024)，把概念使用对齐称为 self-consistency，并视为忠实性的必要但不充分条件。
• 本文提出的检验：用一个共享 SAE 把直接预测与 CoT 后预测映射到同一概念空间，提出三个相关指标（CC-SAE、Jaccard、prediction-grounded Recall）和一个因果指标 Δp。Δp 是从预测残差中消融共享活跃概念后，答案概率的下降。

CoT 忠实性的行为评测

• 干预推理链或其所调用的知识：Lanham et al. (2023)、Zaman & Srivastava (2025)、Ye et al. (2026) 干预输入或 CoT，看答案是否相应改变；Tutek et al. (2025)、Sun et al. (2026) 从参数中遗忘 CoT 步骤所用知识，再看答案是否变化；Paul et al. (2024) 用因果中介和反事实推理链干预，检验中间步骤是否影响最终答案。
• 答案提示是否被说出来：Turpin et al. (2023)、Arcuschin et al. (2025)、Chua & Evans (2025)、Chen et al. (2025) 注入答案提示，若提示被悄悄使用却未在 CoT 中承认，则视为不忠实。
• 输入层面的 self-consistency：Parcalabescu & Frank (2024) 衡量输入对答案预测的贡献与对 CoT 的贡献是否对齐；Admoni et al. (2026) 同样关注模型所做与所说的对齐。作者称本文与他们接近，但在 SAE 概念空间中度量对齐与接地，因为 SAE 概念更接近内部计算粒度，并且相对 token 更接近单义。

用机制可解释性直接看内部计算

• 探针与电路：Occhipinti et al. (2026) 训练线性探针区分忠实与不忠实 CoT；Shen et al. (2026) 用电路追踪和有监督检测器，把不忠实性定义为句子级电路与所展示 CoT 的差异。
• 双 SAE 补丁：Chen et al. (2026) 训练两个独立 SAE，把 CoT 特征补丁进非 CoT 运行，从答案概率增益读取因果效应，检验注入的推理特征能否引导直接答案。作者称本文干预方向相反：用单个共享 SAE 使跨路径概念重叠有定义，再消融预测与 CoT 的共享概念 S∩，检验直接答案是否依赖、而不只是能被这些概念引导。
• 概念提取的工具背景：Bricken et al. (2023)、Templeton et al. (2026)、Cunningham et al. (2023) 被作者用来支持 SAE 能恢复可干预的潜在概念；本文使用现成的 Llama-Scope、Gemma-Scope 与 Qwen-Scope SAE。

基线方法与基准

• 基线：因果检验的对照是从非交集或仅预测特征中随机抽样、按 L2 范数匹配抽样、在 S∩ 上再加随机特征，以及按激活幅度取 top-k 的上界；SAE 配置对照是加宽词典和加大稀疏度。附录 E 把本文指标与已有 CoT 忠实性指标做相关比较。
• 基准/数据集：GSM8K、LogiQA、OpenbookQA、ARC-Easy。

作者把本文定位为：既不把忠实性只当成输入输出行为，也不只检验 CoT 概念能否引导直接答案，而是检验 CoT 是否调用并因果依赖直接预测所用的同一批内部概念，并报告这种关系沿层如何变化。

整体思路是把 CoT 忠实性写成内部概念接地：同一 SAE 编码直接预测与 CoT 后预测，相关指标看概念是否重合，因果指标 Δp 看共享概念是否撑住答案。

问题设定与两路前向

• 预测路：输入问题 x，模型直接预测答案 ŷ。取答案 token 位置的残差 r_pred ∈ R^{d_model}。
• CoT 路：沿用 Parcalabescu & Frank (2024)、Tutek et al. (2025) 的两步：先按 Kojima et al. (2022) 生成推理链 c，再对序列 (x; c) 做前向，在答案位置取残差 r_cot。
• 只评两路答案一致的样本：作者沿用 Tutek et al. (2025)，只在 CoT 与无 CoT 预测一致时评估，以避免把 CoT 带来的性能增益和忠实性混在一起。
• 为何只取答案位置：作者称沿 CoT token 聚合会引入噪声；到答案承诺时，推理路径上浮现的相关概念已经汇入该位置，且与预测路的功能位置相同。

共享 SAE 与概念

• 编码与重构：对残差 r，编码器给出 a = σ(W_enc r + b_enc)，解码器给出 r̂ = W_dec a + b_dec。a 的每一维是一个 SAE 概念；d_sae 通常远大于 d_model。
• 为什么用一个 SAE：作者给出三点：两路用同一 SAE，概念使用才可直接比较；稀疏性推动单义，重叠才有意义；单个特征可被选择性地消融，从而能做因果检验。
• 现成 SAE：Llama-3.1-8B 用 Llama-Scope，Gemma-2-2B 与 Gemma-2-9B 用 Gemma-Scope，Qwen3-1.7B 与 Qwen3-8B 用 Qwen-Scope，均预训练在残差流上。
• 配置消融中的基线：Gemma-2-2B 的基线为 width=16k、ℓ0=105；对照为宽度增至 65k，以及 ℓ0 从 105 降到 46。

三个相关指标

• CC-SAE：两路激活向量的余弦，CC-SAE = a_pred · a_cot / (‖a_pred‖ · ‖a_cot‖)，按强度加权看概念空间对齐。
• Jaccard：只看活跃集合。S_pred、S_cot 为激活大于 0 的概念下标，Jaccard = |S_pred ∩ S_cot| / |S_pred ∪ S_cot|。
• Prediction-grounded Recall：在 S_pred 上，用 CoT 路的激活之和除以预测路的激活之和，衡量预测所用概念有多少出现在 CoT 中。
• 作者给出的地位：三者度量概念使用对齐，即 self-consistency；它们指出哪些概念被共享，不量化这些概念对答案的贡献。

因果指标 Δp

• 消融对象：S∩ = S_pred ∩ S_cot。主分析从预测路残差中减去这些共享概念的解码贡献：r′_pred = r_pred − W_dec[a_pred ⊙ m_{S∩}]。
• 定义：Δp = P(ŷ | r_pred) − P(ŷ | r′_pred)。作者把更大的正值解释为共享概念对答案有更强因果支持，从而指示更高的 CoT 忠实性；接近 0 则表示答案概率对消融不敏感，可能是概念层面的事后合理化。
• 对照条件：设 |S∩|=k。A 从两路并集去掉交集后随机抽 k 个；B 从仅预测特征中随机抽 k 个；C 在仅预测特征中做 L2 范数匹配抽样；D 在消融 S∩ 之外再加 k 个仅预测特征，作为完整性检查。另有按 S_pred 中激活幅度最大的 k 个特征消融的 top-k 上界。
• CoT 路：附录对 CoT 路做同样消融，比较两路因果效应是否一致，并重复 A–D 与 top-k。

概念的自然语言描述

• 做法：按 Paulo et al. (2025) 的自动解释流程，取出每一层激活最高的共享概念并检索其自然语言描述，定性追踪概念沿层如何变化。
• 案例记录什么：Table 1 与附录 J 给出题目、两路预测、金标、CoT 摘要，以及若干层的特征编号和描述；作者标记哪些描述与 CoT 中说出的内容语义重叠。附录给出了这些案例。

实验设置

• 模型：Llama-3.1-8B、Gemma-2-2B、Gemma-2-9B、Qwen3-1.7B、Qwen3-8B，共五个开源 LLM；分别配 Llama-Scope、Gemma-Scope、Qwen-Scope 的残差流 SAE。
• 数据集：GSM8K、LogiQA、OpenbookQA、ARC-Easy。论文未在正文给出各数据集用于评估的样本条数。
• 指标：CC-SAE、Jaccard、prediction-grounded Recall、Δp；层间相关用 Spearman；SAE 配置间用 Pearson r；同族比较还报告归一化 Δp = Δp(S∩)/Δp(S_pred)。Figure 2 左、中列的阴影为 95% 置信区间。
• 样本筛选：只保留 CoT 与无 CoT 预测一致的例子。
• 对照：§5.2 的条件 A–D 与 top-k 幅度上界；§5.4 的 SAE 宽度与稀疏度。
• 重复次数：论文未报告独立重复次数。

主结果

正文主结果是层曲线与相关强度，而不是单一模型级准确率。能从正文直接回查、且带模型与数据集的代表数字如下（完整逐层曲线见 Figure 2、Figure 4、Figure 8 与附录 C.4；逐层原始值论文指向 Table 4、Table 10、Table 14）。

Swipe horizontally to read the table

设置	指标	数值	出处
五模型、四数据集，按数据集中位数二值化	P̄(A|B)、P̄(B|A)、lift	0.53、0.54、1.08	Table 16
Qwen3-8B / Qwen3-1.7B，LogiQA	归一化 Δp	0.96 / 0.90	Table 14
Llama-3.1-8B，相邻层	Δp 差值最高	0.3	Table 4
LogiQA 峰值层	层位置	Qwen3-1.7B 为 L24/28；Gemma-2-9B 为 L31/42	Table 4
S_pred 与 S_cot	重叠比例	33–75%	附录 D.1
Gemma-2 族，跨层变异系数	2B → 9B	23% → 12%	§5.3
Qwen3，LogiQA 上忠实性低谷的归一化深度	1.7B → 8B	44%（L12–14）→ 23%（L6–8）	Figure 2、Table 4

• 对齐与因果不是一回事：作者称相关指标量级为 CC-SAE > Recall > Jaccard（Figure 2 中列），概念对齐总体不错，可作为使用 Δp 的基础。Table 15 中 CC-SAE 与 Δp 的相关强于 Recall，再强于 Jaccard，但三个 Spearman 相关都是可忽略到弱，且层间方差大。Table 16 的 lift 为 1.08：作者称高对齐只把出现高因果效应的概率在基线上提高 8%，高重叠既不保证也不排除强因果效应。
• 深度与架构：除 Gemma-2-2B 外，峰值常在中后层而不是最后一层。作者给出的一种可能解释是最后几层更多做输出格式与下一个 token 预测。Qwen3 的 Δp 跨数据集最稳，作者称之为分布式忠实性；Llama-3.1-8B 层间方差最高，作者称之为局部忠实性，例如在 LogiQA 上集中于 L18–20 与 L23–25。Gemma-2-9B 在选择题上晚层下降、在 GSM8K 上早层下降；Gemma-2-2B 呈现较弱且不一致的相反趋势（Figure 4、Figure 8）。
• 规模：作者称同族更大模型的 Δp 幅度总体更高，且规模会重排层曲线：Qwen3 从 1.7B 到 8B 把 LogiQA 上的低谷从归一化深度 44% 移到 23%。作者建议报告峰值层 Δp 或跨层平均 Δp；后者对局部模式的模型可能低估忠实性。

因果指标是否只是消融伪影

• 预测路：Figure 3 与 Table 10 中，消融 S∩ 的 Δp 接近最大；条件 A–C 的 Δp 接近 0。作者称因果效应特异于交集特征，而不是任意活跃子集。top-k 幅度上界只略高于 Δp(S∩)。Table 11 中条件 D 的增量在全部模型–数据集组合上可忽略，作者称仅在预测路活跃、未被 CoT 复用的特征对最终答案贡献很小。
• CoT 路：Table 14 中两路的 Δp(S∩) 都高。作者据此认为交集特征不是只在没有显式推理时才有用的浅层预测启发式。Table 13 中 A–C 明显低于 S∩；top-k 仍只略高。条件 D 的 Δp 与消融全部 S_cot 几乎相同（Table 14），作者称 CoT 路中只在 CoT 活跃的特征没有额外效应。
• 附录 D 的补充检查：S∩ 只覆盖部分预测特征（重叠 33–75%）。作者称额外检查排除了这些特征只是答案身份特征或无处不在的特征；并且相对随机基线，S∩ 大体足以单独恢复答案。正文未给出附录 D.2–D.4 的具体数值。

SAE 配置与概念是否被说出来

• 配置：Gemma-2-2B 上，不同 SAE 配置的 Δp 高度相关，Pearson r > 0.8（Figure 5a）。Figure 5b 在 GSM8K 上层曲线大体一致，峰的位置仍对齐；L15–20 基线配置的 Δp 略高于更宽或更稀疏的配置。Jaccard 对稀疏度变化最敏感。作者称层模式不是某一 SAE 配置的产物；并给出一种可能解释：中间层特征更组合、叠加更密，因而对超参数更敏感。其他模型的完整结果在附录 I。
• 自然语言轨迹：Table 1 的 LogiQA 民俗艺术题上，Gemma-2-9B 的 S∩ 从早期的主题实体，过渡到中层的中英翻译类特征（L21），再到更抽象的学术或答题评估类概念。作者称与题目内容或答案评估相关的层 Δp 高，主题无关概念的层（如 L16、L25，Table 24）Δp 明显下降。高激活概念有的与 CoT 说出的内容重合，但高 Δp 概念并不总被写进 CoT；反过来，CoT 里的一些内容也不在各层高激活概念中。
• 相关指标与 Δp 的层关系：Figure 2 右列中，除 Llama-3.1-8B 外，相关指标与 Δp 在晚层更接近，早层相关甚至可以为负。

其他消融与分析

• 归一化深度：低谷层号除以总层数（Table 4）。
• Gemma-2 跨层变异系数：2B 为 23%，9B 为 12%（§5.3）。
• Qwen3 在 LogiQA 的低谷：1.7B 为归一化深度 44%（L12–14），8B 为 23%（L6–8）。
• Llama-3.1-8B：相邻层 Δp 相差最高 0.3（Table 4），且没有清晰的单调趋势（Figure 2 左列）。
• Table 16：P̄(A|B)=0.53，P̄(B|A)=0.54，lift=1.08。
• 附录 E、H、C.6：附录 E 比较本文指标与已有忠实性指标的相关；附录 H 给出由低 Δp 标出的事后合理化例子；附录 C.6 讨论更具体的报告建议。正文未给出这些附录的数值，故不转写。

作者指出的局限与后续方向

• 评测应包含因果检验：结论称，总体发现指向一个后续方向，即忠实性评测还应检验与 CoT 相关的内部表示是否因果支持模型预测（§6）。
• 需要按层报告：作者称忠实性不是一个模型级数字，层间变化大，因此需要 layer-aware reporting；并建议在峰值层 Δp 与跨层平均 Δp 之间选择（§5.3、§6）。
• 表面或表征对应不够：摘要与结论称，这些分离意味着不能只凭表面或表征对应来可靠评估忠实性（Abstract、§6）。这是作者对评估实践的主张，论文没有单独的 Limitations 节逐条列出未做的实验。

实验覆盖范围

• 模型与 SAE：被测模型为 Llama-3.1-8B、Gemma-2-2B、Gemma-2-9B、Qwen3-1.7B、Qwen3-8B；SAE 分别为 Llama-Scope、Gemma-Scope、Qwen-Scope，作用在残差流（§4）。
• 数据与筛选：数据集为 GSM8K、LogiQA、OpenbookQA、ARC-Easy；只在 CoT 与无 CoT 预测一致的样本上评估（§3.1 脚注、§4）。论文未报告每个数据集的评估条数，也未报告重复次数。
• 对照与消融：预测路与 CoT 路都做了条件 A–D 和 top-k；SAE 配置消融在 Gemma-2-2B 上比较 width=16k、ℓ0=105 与宽度 65k、ℓ0=46，其他模型放在附录 I（§5.2、§5.4）。
• 概念描述：自然语言轨迹使用 Paulo et al. (2025) 的自动解释流程；正文 Table 1 是 Gemma-2-9B 在 LogiQA 上的一个例子，其余数据集在附录 J（§5.5）。
• 与已有指标的关系：附录 E 比较本文指标与已有 CoT 忠实性指标；致谢中写明 CIE 分数由 Shen et al. (2026) 的作者提供。论文未在正文给出该相关的数值。

这篇工作把 CoT 忠实性从“说得像不像、输入归因像不像”改写成内部概念是否接地：CoT 有没有用到直接预测也在用的 SAE 概念，这些概念消掉以后答案概率会不会掉。

• 问题：高风险场景里，听起来合理的 CoT 可能是事后合理化。行为干预和输入归因不检验内部计算；最近的双 SAE 补丁检验的是 CoT 特征能否引导直接答案，而不是直接答案是否依赖两路共享的概念。
• 方法：五个开源模型各用一个现成残差流 SAE。直接预测与“先生成 CoT 再在答案位置前向”两路，都在答案 token 取残差。CC-SAE、Jaccard、Recall 量概念重叠；Δp 从预测残差消融交集 S∩，看答案概率下降多少。只评估两路预测一致的样本。
• 对齐不等于因果：相关指标总体较高，且 CC-SAE 高于 Recall、高于 Jaccard，但与 Δp 的 Spearman 相关可忽略到弱。按数据集中位数二值化后，P̄(A|B)=0.53，lift=1.08（Table 16）。
• Δp 的特异性：随机与范数匹配对照的 Δp 接近 0，幅度 top-k 只略高于交集消融；再加入仅单路活跃的特征几乎不增加效应。两路的 Δp(S∩) 都高。S_pred 与 S_cot 只重叠 33–75%。
• 层、架构与规模：除 Gemma-2-2B 外，峰值多在中后层，例如 LogiQA 上 Qwen3-1.7B 为 L24/28、Gemma-2-9B 为 L31/42。Qwen3 跨层较稳，Llama-3.1-8B 相邻层 Δp 可差到 0.3。LogiQA 上 Qwen3-8B 的归一化 Δp 为 0.96，Qwen3-1.7B 为 0.90；低谷从归一化深度 44% 移到 23%。Gemma-2 的跨层变异系数从 2B 的 23% 降到 9B 的 12%。SAE 加宽或加大稀疏后，Δp 的 Pearson r 仍大于 0.8。
• 作者的结论：概念对齐只指出哪些特征被共享；要量化贡献必须做像 Δp 这样的因果检验。忠实性应分层报告。自然语言描述还显示，因果上重要的共享概念不一定出现在 CoT 文本里。