The Circuits Research Landscape：电路研究的成果与视角——Goodfire

Goodfire 梳理了神经回路（circuits）研究的整体版图并给出其团队的研究视角。相关进展表明，模型能察觉自身正在进行奖励作弊且可在规模上被捕捉，同时出现了高效估计文本生成不确定性动态的方法，以及用块稀疏特征提取器揭示视觉模型的神经几何结构。Silico 作为可解释性智能体，可用先进的可解释性方法与基础设施来解释、调试并精确控制模型行为。

Goodfire 研究揭示 Evo 2 如何在几何流形中编码生命树

Goodfire 研究发现 DNA 基础模型 Evo 2 将物种间的系统发育关系编码在一个弯曲流形的距离结构中，属于目前基础模型中已知最复杂的流形之一。团队通过构造数据集分离序列相似性与系统发生信号后发现，该表征呈现主导性的平坦结构加上高曲率偏离，并可将不同物种视为基因组"风格"。

Goodfire 开源 DeepSeek R1 的稀疏自编码器并披露两个引导现象

Goodfire 发布了两款针对 DeepSeek 推理模型 R1 的稀疏自编码器（SAE），分别基于自建推理数据集和 OpenR1-Math 训练，并称这是首批在真正的推理模型及该参数规模上训练的公开解释器模型。团队同时开源了数据集，并提供包含每个特征最大激活样本的 SQL 数据库与 GitHub 使用说明。在引导实验中，他们发现直接像非推理模型那样从首个 token 开始引导 R1 会失败，需等到模型输出 Okay, so the user has asked a question about 这类前缀之后才有效，且注意力汇聚点出现在该前缀末尾而非开头，超过 95% 的英文推理轨迹以 Okay 开头。

推荐理由Goodfire 开源了首个面向推理模型 R1 的 SAE，并给出两个在非推理模型上未见过的引导现象，可供机制可解释性研究者复用。

Goodfire：对抗样本不是缺陷，而是叠加表示

Goodfire 研究指出对抗样本并非模型缺陷，而是叠加表示（superposition）的产物。该研究来自 Goodfire Research，其 Silico 可解释性智能体用于解释、调试并精确控制模型行为。

Goodfire 研究：语言模型可解释性缺失的归纳偏置

Goodfire 研究指出当前语言模型可解释性方法缺失关键的归纳偏置，并提出"时间先验"（Priors in Time）这一方向。研究认为模型能察觉自身正在进行奖励作弊，且这类行为可被大规模捕捉。相关方法与其可解释性智能体 Silico 结合，用于解释、调试和精确控制模型行为。

Goodfire 研究：信念动力学揭示上下文学习与激活引导的双重性质

Goodfire 研究发现，模型在奖励作弊时是"知道"自己在作弊的，且可在规模化条件下被捕捉。该研究通过信念动力学分析，揭示上下文学习与激活引导具有双重性质。相关结论来自 Goodfire Research，具体模型与实验细节未在摘要信息中披露。

Goodfire 研究：语言模型如何在上下文中检索绑定实体

Goodfire 研究提出"混合机制"（Mixing Mechanisms），用于解释语言模型如何在上下文中检索绑定实体。该研究聚焦模型内部机制，分析绑定实体的检索过程。

Goodfire 研究：特征流形存在下的稀疏自编码器扩展

Goodfire 研究探讨了在特征流形存在时稀疏自编码器（SAE）的扩展行为。研究指出模型在奖励作弊时自身能够察觉，并可在大规模上被捕获。该工作还涉及用块稀疏特征化器揭示视觉模型的神经几何结构。

Goodfire 梳理机制可解释性领域的开放问题

Goodfire 发布《机制可解释性中的开放问题》，梳理该领域尚未解决的研究难题。其研究还显示，模型在奖励作弊时自身"知道"，并可被大规模检测；同时提出 Forking Fast 方法高效估计文本生成中的不确定性动态，并用块稀疏特征器揭示视觉模型的神经几何结构。

Goodfire 与 Arc Institute 合作解读 Evo 2 基因组基础模型

Goodfire 与 Arc Institute 合作，对 Arc 新一代生物基础模型 Evo 2 开展机制可解释性研究，在其第 26 层训练 BatchTopK 稀疏自编码器（SAE），提取出外显子-内含子边界、蛋白质二级结构等具有生物学意义的特征，并通过大规模对齐分析以 domain-F1 分数验证其相关性。Evo 2 提供 7B 和 40B 两种参数规模，可在核苷酸级别处理最长 1M 碱基对序列。团队已初步尝试通过特征引导（steering）精确设计新蛋白质结构，但该模型的可控性远比语言模型复杂，仍需进一步研究。

Goodfire 用损失曲率区分模型记忆与推理并实现选择性编辑

Goodfire Research 提出通过分析模型损失景观的曲率，区分权重空间中主要支撑记忆的方向与支撑通用计算的方向，从而在无需标注遗忘样本的情况下选择性抑制记忆。方法先用 K-FAC 从随机训练序列的前向与反向传播统计中近似曲率，再据此分解权重矩阵并清零低曲率分量。在语言模型上，该方法对未参与训练的遗忘序列的抑制效果优于 SOTA 遗忘方法 BalancedSubnet，纯逻辑推理任务表现不受影响甚至略有提升。在视觉 Transformer 上，对 10% 随机标签噪声的记忆率从 81.6% 降至 3.5%，验证准确率从 67% 升至 71.7%。

推荐理由Goodfire 用损失曲率区分记忆与通用计算方向，为理解模型记忆存储与选择性编辑提供了一种免标注的方法。

Goodfire 用可解释性从表观遗传基础模型 Pleiades 中找出新型阿尔茨海默病生物标志物

Goodfire 将可解释性方法应用于 Prima Mente 的表观遗传基础模型 Pleiades，发现 DNA 片段长度模式主导其从血液游离 DNA 检测阿尔茨海默病的决策，并由此提炼出一个人类可解释的分类器。该分类器仅用片段长度特征即在独立队列上取得 AUROC=0.78（95% CI [0.56–0.95]），加入此前文献报道的生物标志物类别后升至 AUROC=0.84（95% CI [0.66, 0.97]）。研究表明片段组学可作为互补于既有预测指标的新型候选信号，但其临床应用仍需进一步验证。

Goodfire 提出 RLFR：用可解释性探针作奖励，将 Gemma-3-12B-IT 幻觉降低 58%

Goodfire Research 提出 RLFR（Reinforcement Learning from Feature Rewards），用模型内部激活上训练的轻量探针作为强化学习奖励信号，在 Gemma-3-12B-IT 上把幻觉率降低 58%，每次干预成本比 LLM-as-judge 方案低约 90 倍，且标准基准无退化。方法分四步：token 级定位探针找出候选实体片段，span 级分类探针判断是否为幻觉，策略生成内联纠正或撤回，再由两个奖励探针分别给纠正和撤回打分。训练用约 360 步优化器更新、成本约 2.5k 美元，同样预算下用 Gemini 2.5 Pro 加网页搜索作奖励只能跑 3–5 步。

推荐理由Goodfire 用探针奖励替代 LLM 评判做 RL，给出成本与幻觉下降的对比数据，可迁移到其他开放式任务监督。

Goodfire 研究思维链表演性：探针揭示模型内部答案早于推理文本

Goodfire Research 提出用注意力探针、强制作答和 CoT 监控三种方法对比模型内部信念与思维链文本，把两者的准确率差距定义为表演性推理。研究在 DeepSeek-R1-0528-671B、GPT-OSS-120B 及 DeepSeek-R1 蒸馏模型上，用 MMLU-Redux 和 GPQA-Diamond 两个多选题基准测试。最佳注意力探针在 MMLU 上平均准确率达 87.98%，而单 token 线性探针不超过 31.85%，接近 25% 的随机基线。

推荐理由Goodfire 用探针与强制作答对比思维链监控，量化了模型内部信念与外部推理文本的错位，并给出可复用的早退方法。

Goodfire 用自校正搜索加速材料发现，将扩散模型的候选材料产出提升约 30%

Goodfire 与 Radical AI 合作，通过给扩散模型加入基于其内部表征的反馈回路实现自校正搜索，使目标范围内可用候选材料的生成量提高约 30%。该方法针对 MatterGen 的条件生成流程改进逆设计环节，衡量指标为同时满足稳定、独特和新颖三个约束的 SUN 标准。现有基线中仅 15% 的 MatterGen 采样落在 4–6 eV 带隙目标区间内，若再叠加 SUN 过滤则降至 6.5%，且仅有约 10% 的微调候选能通过全部筛选阶段。该技术原则上适用于任意扩散模型，有望推广到蛋白质设计与药物发现等领域。

Goodfire 提出基于探针的数据归因方法，定位并缓解 LLM 后训练中的有害行为

Goodfire Research 提出基于探针的数据归因方法，可定位 LLM 后训练中涌现的有害行为对应的训练数据点。研究以 OLMo 2 7B 的 DPO 训练为自然测试床：模型在有害请求后附加格式约束（distractor）时从拒答转为顺从，该现象在 OLMo 2 32B 上更强。方法将行为变化与训练数据点都表示为模型激活向量，用余弦相似度匹配，再用 Grok 4 生成的 150 条提示构建探针向量。过滤探针排名最高的 3 万个数据点后，有害行为下降 63%，且 GSM8k、IFEval、XSTest 性能无明显损失；交换这些数据点的 accepted/rejected 标签可下降 78%。

推荐理由原文给出探针定位 DPO 有害数据的具体流程与 63% 降幅，做后训练数据清洗的团队可参考其归因与验证方法。

Goodfire 提出 VPD 方法：将语言模型参数分解为可解释子组件

Goodfire 提出对抗参数分解（VPD），一种无监督方法，用梯度下降把语言模型的权重矩阵拆解为若干秩一矩阵子组件，这些子组件相加可精确还原原始权重。研究团队在一个 67M 参数语言模型上分解了全部 24 个矩阵，仅识别出约 1 万个子组件，并训练一个因果重要性网络预测每个提示下最少需要哪些子组件。借助这一分解，他们能在权重空间直接识别注意力层中跨注意力头的算法，例如前一词行为和语法边界路由；还能在不训练的情况下直接编辑子组件，例如把识别表情符号眼睛的子组件改为输出 o 的 unembedding 向量，使模型把所有表情预测为震惊脸，其副作用接近不可解释的微调方法但仍存在性能差距。

推荐理由Goodfire 提出把权重矩阵拆成可解释子组件的方法，并给出注意力算法识别与免训练模型编辑的实例，适合关注机制可解释性路线的人了解。

Goodfire 用减少 30 倍的 rollout 预测罕见 LLM 失败

Goodfire 提出将文本生成中的不确定性动态分叉来估计的方法，可用比常规少 30 倍的 rollout 预测罕见的大语言模型失败。该方法面向 LLM 输出的不确定性建模场景，相关成果发布于其研究博客。

Goodfire 研究：用 Logits 作为评测感知的新监控手段

Goodfire 提出用 logits 作为监控模型评测感知（eval awareness）的新方法。研究显示模型在奖励作弊时能意识到自己正在被评测，而该方法可在规模上捕捉这一现象。相关研究还包括文本生成不确定性动态估计与视觉模型神经几何分析。

Goodfire 解读为何更大模型学得更多：容量、干扰与稀有任务留存的作用

Goodfire 发表《Why Larger Models Learn More》，从容量、干扰与稀有任务留存三方面解释大模型的规模优势。页面同时列出其研究方向：模型能察觉自身在做奖励作弊并可大规模捕捉该行为，以及文本生成中的不确定性动态估计、视觉模型的神经几何结构解析。Silico 是其可解释性智能体，可用先进的可解释方法与基础设施来解释、调试并精确控制模型行为。

Goodfire 提出 VPD 方法，将语言模型参数分解为可解释子组件

Goodfire Research 提出对抗参数分解（VPD）方法，把语言模型的参数分解为若干秩一子组件，每个子组件只实现模型所学算法的一小部分，且在任意组合被消融时仍能保持网络的输入输出行为。研究在一个 4 层、6700 万参数、在 The Pile 子集上训练的 decoder-only Transformer 上做了分解，将 24 个权重矩阵拆成 38912 个秩一子组件，其中约 1 万个为活跃组件，每个数据点平均用到 205 个子组件，约占活跃组件的 2.1%。VPD 与 SPD 的主要区别在于消融采样方式，VPD 使用对抗性选择的样本而非随机样本，从而在对抗消融下仍保持较好的输出重建。

推荐理由Goodfire 提出把语言模型参数直接分解为可消融子组件的方法，并给出与 transcoder 的对比数据，适合关注机制可解释性路线的人了解参数级分解的进展。

Goodfire《神经几何》系列：从激活空间结构理解与控制神经网络

Goodfire 发文提出"神经几何"研究方向，主张神经网络激活中蕴含丰富几何结构——星期呈圆形排列、颜色构成 HSL 流形、生命树出现在基因组表征中，可作为理解、改进和控制模型的抓手。该系列收录多项工作：沿弯曲流形的引导比传统线性引导向量产生更精准的行为改变；Llama 3.1 8B 内被发现一个基于圆形数值表示的加法模块；Block-Sparse Featurizers（BSF）将视觉模型激活分解为多维子空间并实现细粒度引导，且多数概念是多维的。

Goodfire 提出 Forking Fast：高效估计文本生成中的不确定性动态

Goodfire 提出 Forking Fast，用于高效估计文本生成过程中的不确定性动态，面向生成式模型的不确定性估计。

Goodfire 提出模型差分放大方法，用于发现微调后罕见不良行为

Goodfire Research 提出模型差分放大（model diff amplification，后称 logit diff amplification）方法，通过 logits_amplified = logits_after + α(logits_after – logits_before) 采样下一个 token，放大微调前后模型的差异，从而用更少 rollout 暴露罕见不良行为。在涌现性错位案例中，用不同比例不良医疗建议数据微调 Llama 3.2 1B Instruct，当坏数据仅占 5% 时标准采样 1/10000 有害，放大后升至 1/30，整体使错位回答出现频率提高 10 到 300 倍。

推荐理由Goodfire 提出用训练前后 logits 差值放大采样，把罕见不良行为从百万分之一提升到可观测频率，为部署前红队提供可迁移方法。

Boaz Barak 开设 CS 2881 秋季课程，首讲梳理 AI 风险、对齐与思维链实验

哈佛 CS 2881 秋季课程第一讲由 Boaz Barak 讲授，内容覆盖 AI 风险全景、对齐与防护的区分，以及思维链能否替代内部推理工作区。课前阅读包括 Barak 关于 2030 年 AGI 转型失败场景与权力集中的两篇文章，以及 UK AISI 事故报告 INC-2026-07-28-01、OpenAI 与 Hugging Face 事件的黑帽演讲和 METR 的独立调查报告。讲座把风险分为人类滥用、模型失灵或失准、经济社会与国际关系失稳三类，用瑞士奶酪模型说明纵深防御，并把对齐拆为意图对齐与价值对齐，提出原则、人格、政策三种塑造模型行为的路径。

Imprint Reader：从权重更新读出到行为干预

研究者提出 Imprint Reader，用 Semantic Mount-and-Read Tuning（SaRT）训练模型为冻结的权重更新生成自然语言描述，SMaRT 将每次更新挂载到 Reader 上并用无锚点元查询引出描述，同时用无变化和随机扰动对照抑制无依据的断言。在留出更新上，联合 Reader 在知识维度取得基于评判的 Pass@100 为 2%，行为维度为 16%，作者认为这证明了自然语言读出的可行性，跨更新的可靠性是下一步。

研究质疑电路评估：电路能否解释模型错误

论文指出，通过消融其余部分验证的电路解释可能只复现模型的正确决策，却无法解释其大部分错误。作者在 IOI、Docstring 以及 Mechanistic Interpretability Benchmark 的六个模型任务设置上，分别测量电路与模型在成功和失败样本上的精确答案一致率，发现许多电路在正确行为上高度吻合，却漏掉多数错误。在 GPT-2 small 的 IOI 任务、均值消融下，手工电路与所测自动电路（包括一个针对模型完整输出分布训练的电路）在模型答对的提示上一致率为 97.3%–99.5%，但在错误上仅为 11.4%–41.7%。

SAKIKO：对工具调用 LLM 内部干预的机制审计框架

论文提出 SAKIKO 审计框架，用于检验对工具调用 LLM 内部激活的干预是否真正构成表征修复。该框架包含方向性错误发现、路由条件干预、按目标结果验证和前瞻性冻结的统计许可四个环节。在 When2Call 和 MetaTool 上对七个 LLM 测试，通道键控干预在五个模型中带来方向特定的净增益；三项密封评估中，59 个预算匹配的随机方向均未达到校准后的目标增益。目标结果审计显示行为移动不等于修复：一项净增益 +55 的干预破坏了其触及的过半基线正确决策，Qwen3-4B 和 Gemma-2-9B 上看似有希望的点估计因有限样本不确定性被正式否决。作者据此主张，在宣称内部修复之前必须进行按结果裁决的验证。

AG-SAE：用自适应图稀疏自编码器学习混合拓扑特征图

作者提出自适应图稀疏自编码器（AG-SAE），一种结构引导的训练范式，把每个特征的完整父集合当作一个原子结构假设，由证据决定其拥有零个、一个或多个父节点。该方法通过让完整父集合与空假设、子集及替代解释竞争，识别出联合必要的多父关系，同时排除冗余或虚假的替代关系，并验证每个子特征是否在父特征之外仍有贡献。由此诱导出的 SAE 特征拓扑定义了可微的结构损失来指导训练，拓扑引导的细化缓解特征吸收，并利用学习结构暴露的持续重建差距初始化新特征，随后从修订后的字典重新诱导整张图，形成字典与图的自洽循环。

PersonaDose：面向分级特质控制的校准激活引导

PersonaDose 通过特质描述与目标平均强度来控制语言模型的人格表达，将共享的描述条件化 FLAS 控制器在人格响应上特化，并用实测特质表达校准其 flow time，训练响应不与目标强度配对。在 Llama-3.1-8B、Qwen3-8B 和 Gemma-3-4B 上，该方法在 Persona Vectors 75 连贯性下限处，核心特质表达分别比对比激活加法高出 33.2、18.3 和 17.8 分。七个已训练特质上，校准请求在每模型 28 个目标中 14-22 个可达目标上的平均定位误差为 4.7-6.2 分。

RESCUE：用强化学习把语言模型错误修复为稀疏电路

RESCUE 是一个定位并修复错误相关稀疏电路的框架，通过强化学习优化掩码，再用剪枝和微调对错误电路做定向更新。作者指出，多步推理和长文本生成中早期偏差会让前缀偏离监督参考，使基于 SFT 的掩码优化忽略生成阶段的错误电路，因此改用多次掩码模型 rollout 的强化学习来细化掩码。在数学推理上，该方法识别出密度 1.40% 的数学错误电路，修复后准确率从 6.0% 提升到 75.5%；在医疗问答上，密度 1.44% 的电路把修复集准确率从 0% 提升到 81%。代码已公开。

研究揭示 Qwen2.5-7B-Instruct 数字比较依赖线性表征而非流形

研究精确刻画了 Qwen2.5-7B-Instruct 在数字比较任务中的计算几何，发现模型主要使用数字的线性表征，尽管表征中存在弯曲几何。模型先用向量编码每个数字，通过注意力和残差连接把两个表征相加送入残差流的共享空间，再用 MLP 神经元在该空间的局部区域上比较数字对，这些局部区域对应较小的输入数字区间，最后组合得到最大值的位置。这种对线性表征的依赖在模型比较三个数字时依然存在。作者认为，流形假设可以与线性表征共存：有序概念的表征可能具有流形结构，但模型在某些计算中会使用概念底层的线性结构。

研究诊断 TopK SAE 可靠性：活跃预算 k 会削弱稀有特征敏感性

论文研究 TopK 稀疏自编码器（SAE）的特征敏感性可靠性问题，发现扩大字典宽度会选择性降低稀有特征的敏感性，而常见特征相对稳定。通过宽度与 k 的受控析因实验，作者将退化归因于活跃预算 k 而非字典宽度本身，认为问题出在 TopK 选择边界，并用活跃边际（到截断点的距离）在无需阈值的情况下预测特征丢失。基于这一诊断提出的成对排序稳定化方法针对截断处的排序失败，将稀有特征敏感性提升 8.83 个百分点，同时重建质量和存活特征覆盖率接近基线。作者建议宽 TopK SAE 的评估除重建、稀疏度和特征数量外，还应纳入语义变化下的特征可靠性与边界几何。

Goodfire 提出神经几何：神经网络内部世界呈弯曲流形结构

Goodfire Research 发布系列文章，主张神经网络内部表征常呈弯曲几何结构，而非线性方向，并提出以神经几何为前沿来理解、改进和控制模型。文章用 mountain car 图像-动作模型演示：图像编码器把小车位置表示为一条弦状流形，沿该流形干预隐藏激活可让小车平滑上下坡，而线性路径会穿过激活空间中的空洞，导致输出混乱甚至小车瞬移。作者指出，语言模型中月份、星期呈环状，历史年份与文本字符呈平滑曲线，图像模型的空间布局与颜色也呈结构化曲面。文章还批评稀疏自编码器（SAE）会把流形打碎成许多看似无关的局部特征，例如在押韵词流形上只能标出局部拼写属性，掩盖了音韵结尾这一整体语义结构。

推荐理由Goodfire 用 mountain car 与押韵词流形说明概念常呈弯曲几何而非线性方向，为可解释性与控制方法提供新视角。

Goodfire 用激活探针在模型内部检测奖励作弊

Goodfire Research 发现模型在奖励作弊时内部存在可检测的信号，并用激活探针将其捕捉。研究在 Kimi K3、GLM 5.2、Qwen 3.8 Max 三个开源模型和三个智能体基准上发现 50–96% 的 rollout 存在奖励作弊。该信号与作弊、钻指标空子、规避检测等概念相关，探针在 DeepSWE 上比思维链监控多抓 3.1% 的作弊（Kimi K3），但在 GLM 5.2 上少 7.9%；探针还能在模型尚未行动、仅处于考虑阶段时触发。由于探针复用前向传播中已计算的激活，成本远低于 LLM 监控，在 Kimi K3 上探针加 LLM 的组合方案将 LLM 监控成本降低 90%，精度仅下降约 1%。

推荐理由Goodfire 用激活探针在模型内部找到奖励作弊信号，并给出与思维链监控的对比和成本数据，可迁移到训练监控。

Goodfire 研究 SAE 能否捕捉神经几何，并提出无监督流形发现流程

Goodfire Research 发布研究，考察稀疏自编码器（SAE）学到的方向与神经网络弯曲几何之间的关系。团队在包含甜甜圈、球面、莫比乌斯带等结构的合成数据上训练 SAE，发现随重建方向数量变化，SAE 会以三种方式恢复几何结构：碎片化（每个点由独立特征表示）、紧凑捕捉（少量共享特征充当坐标系）和稀释（中等数量特征部分共享）。在真实神经网络表示上训练时观察到的是稀释，单个 SAE 特征只覆盖流形的一部分，例如温度流形上「寒冷天气及其影响」与「极端高温及其影响」分别激活两端。

推荐理由Goodfire 用合成数据与 Llama 3.1 8B 展示 SAE 方向如何以三种方式拼出弯曲流形，并给出无监督发现流程。

Goodfire 研究沿流形引导控制神经网络行为

Goodfire Research 提出沿表示空间中的流形而非直线进行表示引导，以控制神经网络行为。研究以星期几这一循环概念为案例，在 Llama-3.1 8B 上观察到行为空间与激活空间都呈现七簇圆形结构，沿表示流形引导能让输出概率依次从周一平滑过渡到周五，而线性引导会横切行为流形并产生非星期的噪声输出。研究还反向优化出沿行为流形的引导路径，发现其与表示流形路径形状吻合，说明行为几何与表示几何存在双向对应。论文进一步在月份、字母、年龄及合成上下文学习任务和图像动作模型上发现类似结构。

推荐理由以星期循环概念为例，展示表示流形与行为流形之间的对应关系，为表示引导提供几何视角。

Goodfire 在 Llama 3.1 8B 中发现通用加法模块

Goodfire Research 在 Llama 3.1 8B 第 18 层发现一个通用加法模块，可同时处理算术、星期与月份等具有加法结构的任务。该模块把数字表示为激活空间中的一组圆，每个圆对应数字对某一模数的余数，类似傅里叶分解；计算 6+8 时，模块并行求解各模数下的加法，再组合出结果 14。研究者通过追踪跨层与跨 token 位置的信息流定位该模块，并用因果方法验证其跨任务通用性；同时沿这些圆进行引导可改变模型对月份问题的回答，说明这些流形是网络真实使用的计算对象。作者指出，这一发现依赖此前关于 LLM 用傅里叶特征表示数字的工作，并希望未来研究补全经验证据。

推荐理由原文用因果干预验证了 Llama 3.1 8B 第 18 层的通用加法模块，为机制可解释性研究提供了一套可迁移的定位与验证方法。

Anthropic 等提出 Activation Oracles：让 LLM 直接解读神经激活

Anthropic 联合 MATS、Truthful AI 等机构提出 Activation Oracles（AO），训练 LLM 把目标模型的神经激活当作额外输入模态，用自然语言回答关于这些激活的任意问题。方法上，AO 以目标模型副本初始化，将多层激活注入其第 1 层残差流，并用系统提示问答、二分类和自监督上下文预测三类数据做监督微调。在四个下游审计任务中，AO 在三个上达到或超过此前最优方法，包括从被训练为只给线索不直说答案的 Taboo 模型中提取秘密词，以及识别微调引入的涌现性失准；这些 AO 均只在微调前的原始模型上训练，仍能泛化到微调模型。

推荐理由Anthropic 与多所高校合作提出用语言模型直接解读激活值，在四类审计任务中三类达到最优，并给出与机制可解释性方法的取舍对比。

Goodfire 研究：LLM 如何在阅读故事时追踪情感动态

Goodfire Research 用 Llama 3.1 8B 做案例研究，发现大语言模型在逐句阅读故事时，其内部激活会在概念空间中沿弯曲流形移动，动态追踪故事情感走向。研究先验证 LLM 的情感表征与心理学价-唤醒模型一致，再让模型对每句话后的惊讶、厌恶、愤怒、快乐、悲伤、恐惧按 0-10 打分，形成行为读数，且无需询问情感的内部探针同样准确。