分析与理论arXiv 2610.10203
研究者提出模型生物体多目标验证框架并给出训练建议
提出模型生物多目标验证与合并训练方法以减少能力损伤
- arXiv
- 2610.10203
- 发表
- 场景
- 模型与 API
- 测试
- gpt-5.4-mini、gpt-5.2、gpt-5.1 等 8 个
摘要提出多目标验证框架与模型合并训练法，证明模型真实度直接影响可解释性评测。
本论文提出了一种针对 AI 安全评测用模型生物（Model Organisms）的多目标训练与验证体系。
- 其他arXiv 2610.03163
预测引导向量与适配器权重实现少样本作者风格迁移
预测引导向量与 LoRA 权重，实现少样本作者风格迁移
- arXiv
- 2610.03163
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-OSS-20B、Qwen3-4B-Instruct-2507、distilbert-base-uncased
摘要三摘要冷启动下，超网络在两套测试的点估计权衡中处在中间。
在基座冻结、只有三篇摘要的冷启动下，生成符合特定作者文风的科学论文摘要。
- 攻击arXiv 2607.23496
Concept2Scenario：用 SAE 概念归因发现可迁移的越狱场景
提出 Concept2Scenario，借助内部概念归因发现可迁移的越狱场景
- arXiv
- 2607.23496
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 测试
- GPT-5、Qwen3.5-9B、Llama-3.1-8B 等 10 个
摘要该研究从表征空间因果归因揭示场景削弱拒绝的机制，发现可复用脆弱场景先验，提升多模型黑盒越狱效能与探索速度。
- 可解释性arXiv 2609.14759
研究：拒答只读取模型道德表征中的伤害切片
用几何投影与因果交换干预，分析拒绝机制读取的道德表征
- arXiv
- 2609.14759
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-OSS-20B、OLMo-3-7B-Instruct、OLMo-3-7B base 等 9 个
- 风险拒答失当
摘要作者指出拒绝机制多仅读取表层伤害感知，在控制瓶颈处运作，阐明了对齐易被移除的机理并提出跨模型双轴分类。
本文是一项针对大语言模型拒绝机制与对齐浅层性的机械解释性研究。
- 可解释性arXiv 2607.12166
研究：SAE 相关性恢复的特征最高 77% 因果无效
用消融与转向干预审计稀疏自编码器特征的因果有效性
- arXiv
- 2607.12166
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2-small (gpt2-small-res-jb/blocks.8.hook_resid_pre)、toy model (32->8, s=0.95, decayed)、toy model (nhidden=20)
摘要论文揭示 SAE 特征存在几何匹配与因果有效性脱节现象，提出读写解离机制与实践准则。
- 可解释性arXiv 2609.14754
研究者总结因果可解释性中的六类测量失效与校准协议
提出因果可解释性仪器校准规程，识别决策位点测量失效
- arXiv
- 2609.14754
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-OSS-20B、OLMo-3-7B-Instruct、Qwen2.5-7B 等 6 个
摘要论文系统梳理并实证揭示了大模型可解释性测量的六种伪影陷阱，提出了四项严格的校准与验证规程。
- 分析与理论arXiv 2609.04194
研究：思维链推理步骤的可读性不等于可解释性
用 advantage 衡量思维链步骤重要性，检验文本能否解码
- arXiv
- 2609.04194
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- gpt-5.4-mini-2026-03-17、Qwen3-1.7B、Qwen3-4B 等 6 个
- 组件推理链
摘要advantage 能标出影响答案的步骤，但正确回答的文本更难解码。
作者用强化学习中的 advantage 比较 CoT 步骤“看起来重要”和“实际改变答案概率”是否一致。
- 可解释性arXiv 2610.02098
研究揭示机制可解释性中的目标层恢复缺口
比较等规模电路的忠实度与行为准则，揭示目标层恢复缺口
- arXiv
- 2610.02098
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2 small、four-layer attention-only width-512 code model、InterpBench compiled transformers
摘要同等规模下 faithfulness 会错排行为更好的电路。
作者研究电路发现的评测目标：干预定义的 faithfulness 可能偏好一个规模相同、但在固定行为测试上更差地复现完整模型的电路，即 objective-level recovery gap。
- 可解释性arXiv 2610.01821
研究者提出非线性概念流形发现与对齐方法，用于分析大语言模型内部表示
提出残差流上的非线性概念发现与对齐方法，比较模型内部概念结构
- arXiv
- 2610.01821
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2、Llama-3.1-8B-Instruct、Qwen3-4B 等 9 个
摘要NLMCD-NLP 用 CBA 比较非线性概念，层块、语言共享和微调漂移都随模型与阶段而变。
NLMCD-NLP 把概念建成低维非线性流形，用 CBA 比较 LLM 在层、规模、语言和训练阶段上的表示，而不把相似度压成一个全局线性统计量。
- 可解释性arXiv 2609.37616
语言模型中的权威偏差：来源顺从与用户认同并非同一行为
因果解耦来源依从与用户迎合的内部机制
- arXiv
- 2609.37616
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-OSS-20B、GPT-5.4、Qwen3.5-27B 等 8 个
- 风险失准与价值偏离
摘要论文发现模型对验证源的依从强于用户迎合，通过因果干预区分了二者机制，并检验了权威方向移除的缓解效果。
- 可解释性arXiv 2609.25518
Matryoshka Attribution：把语言模型输出归因到表示与权重
提出 Matryoshka Attribution，把模型输出归因到表示与权重
- arXiv
- 2609.25518
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- gpt2-small、Qwen2.5-0.5B、gemma-2-2b 等 6 个
- 风险拒答失当
摘要MAttr 用随机预算的 sigmoid top-k 学嵌套归因，并在电路基准和拒答权重上给出结果。
Matryoshka Attribution（MAttr）把“哪些内部计算或权重差导致了输出”写成可以用梯度下降学习的嵌套子集问题。
- 可解释性arXiv 2609.28809
Stream Recursion Model（SRM）：面向可扩展机制可解释性的新架构
提出 SRM 多流递归架构，以可学习流间注意力支持机制分析
- arXiv
- 2609.28809
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2、SRM-base、SRM-med 等 5 个
摘要SRM 用可学习的流间注意力扩展 HRM，语言损失可接近 GPT-2。
Stream Recursion Model（SRM） 修改 HRM 的多流结构，使流数增加时语言建模仍能扩展，并让路由和流分工可以直接看。
- 可解释性arXiv 2609.30954
FTB Graph：多语言模型首 token 广播器与语言身份头电路的结构分析
用激活修补定位并验证多语模型首 token 语言身份电路
- arXiv
- 2609.30954
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2、BLOOM-560M、Pythia-1B 等 6 个
摘要首 token 语言路由在预训练中形成。
六个不超过 2.8B 的多语模型上，第一个生成 token 的语言身份被抽成经过精确修补验证的注意力电路。。
- 可解释性arXiv 2609.32355
语言模型定向特征学习：检测用激活值，干预用梯度
比较激活值与梯度定向特征的检测和干预效果
- arXiv
- 2609.32355
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2、Pythia-70M、Llama-3.1-8B
摘要定向特征的检测与干预依赖信号和估计器，二者并不对齐。
作者比较假设驱动的定向特征学习：为预先指定概念构造单一特征，并同时看检测与因果干预。CAA 与 GRADIEND 原先同时改变信号和估计器。本文将 activation value、activation gradient、parameter gradient 与 contrastive mean、IEND 交叉，补齐 ACTIEND、AGIEND、CAGA、CGA，并以预训练 SAE 为非定向参照。
- 可解释性arXiv 2609.35890
研究：表征简洁与电路规模在阈值依赖下出现分离
检验对抗训练带来的表征简洁是否对应更小因果电路
- arXiv
- 2609.35890
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2 Small（124M，openai-community/gpt2）、ft-clean、ft-e100-a05 等 10 个
摘要对抗训练使 GPT-2 Small 的 SAE 表征更可分解，但更小的忠实电路只出现在高保真区间。
这篇工作用对抗持续训练当仪器，检验表征简洁是否等于电路简洁。问题是：SAE 更可分解、归因动用的特征更少，是否意味着在固定保真度下恢复同一行为所需的因果子图更小。
- 防御arXiv 2609.19101
用内部表征监控与发现 LLM 评测中的奖励作弊
提出 DoM 探针，监控并发现评测中的奖励作弊
- arXiv
- 2609.19101
- 发表
- 层
- 应用层
- 场景
- 编程 Agent
- 测试
- GPT-5.6 Sol、Kimi K3、GLM 5.2 等 7 个
摘要论文分析了前沿开源模型在评测中的奖励投机，展示了利用内部激活均值差向量低成本监控与发现投机行为的可行性。
- 可解释性arXiv 2609.00755
S^3martCirc：自监督智能电路发现框架
提出 S³martCirc 联合发现电路并划分节点角色
- arXiv
- 2609.00755
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2、Llama 3.2 1B、Qwen 3 1.7B
摘要S³martCirc 联合发现电路并分两类角色。
S³martCirc 把电路成员和节点功能放进同一次优化。。要处理的情况是：先选注意力头或前馈神经元，再人工指定 name mover 一类任务专用角色。
- 评测与基准arXiv 2609.03026
ObserverBench：用干预与控制任务检验机制可解释性估计
提出 ObserverBench，比较机制估计精度与动作损失
- arXiv
- 2609.03026
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2-small、two-block Transformers、Qwen2.5-7B 等 6 个
摘要ObserverBench 在固定决策下分开报告估计精度与动作损失，三者可以不一致。
ObserverBench 评测一个内部观察器是否够格指导某项具体干预、闭环或安全策略，而不是只看平均估计精度。
- 可解释性arXiv 2609.03148
LLM 如何处理上下文知识冲突：ContextConflict 数据集与机制可解释性分析
构建 CONTEXT CONFLICT 解释模型如何表征并化解语境知识冲突
- arXiv
- 2609.03148
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- gpt-5、gpt-oss-120b、gpt-oss-20b 等 7 个
摘要CONTEXT CONFLICT 显示模型能内部察觉冲突，却偏向靠前证据。
CONTEXT CONFLICT 把问题从“参数知识对外部语境”转到“语境内部多来源证据互相冲突”，并同时给出数据、机制分析和一种无训练转向。
- 评测与基准arXiv 2609.03511
多语言 LLM 在语义保持结构扰动下的结构敏感性：IndicReStruct 基准与机制可解释性分析
构建 IndicReStruct，评测保语义结构扰动下的多语言数学推理
- arXiv
- 2609.03511
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-OSS-20B、Gemma-2-9B-it、Gemma-2-27B-it 等 7 个
摘要保语义的重排和语态变化会降低印地语与马拉雅拉姆语数学推理准确率，轻量微调未能补上。
IndicReStruct 用保语义的成分重排和语态变换，检验多语言 LLM 的数学推理是否依赖表层语序。