风险行为arXiv 2610.06576
研究：智能体欺骗行为在外部显现前已可从内部表征预测
从决策前内部表征预测智能体自发欺骗并做激活引导
- arXiv
- 2610.06576
- 发表
- 层
- 模型层
- 场景
- AI Agent
- 测试
- GPT-5.6、Qwen3-14B
摘要论文展示了智能体自发欺骗可在行为显现前由内部表征预测，并通过激活引导证实了表征的行为可操作性。
可解释性 · 论文
另有 61 篇论文还没打上分类标签，暂不在筛选结果里。
- 其他arXiv 2610.03163
预测引导向量与适配器权重实现少样本作者风格迁移
预测引导向量与 LoRA 权重，实现少样本作者风格迁移
- arXiv
- 2610.03163
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-OSS-20B、Qwen3-4B-Instruct-2507、distilbert-base-uncased
摘要三摘要冷启动下，超网络在两套测试的点估计权衡中处在中间。
在基座冻结、只有三篇摘要的冷启动下，生成符合特定作者文风的科学论文摘要。
- 可解释性arXiv 2609.14759
研究：拒答只读取模型道德表征中的伤害切片
用几何投影与因果交换干预，分析拒绝机制读取的道德表征
- arXiv
- 2609.14759
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-OSS-20B、OLMo-3-7B-Instruct、OLMo-3-7B base 等 9 个
- 风险拒答失当
摘要作者指出拒绝机制多仅读取表层伤害感知，在控制瓶颈处运作，阐明了对齐易被移除的机理并提出跨模型双轴分类。
本文是一项针对大语言模型拒绝机制与对齐浅层性的机械解释性研究。
- 分析与理论arXiv 2609.23215
研究审计 Active Inference Agent 的 LLM 解释器失败模式
审计 Active Inference Agent 上 LLM 解释器的监督叙述失败
- arXiv
- 2609.23215
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 测试
- GPT-4o、Claude-3-Opus、Gemini
摘要三组触发下解释流畅但错误，所提缓解都未被评估。
作者审计的是挂在智能体上的运行时解释器，而不是智能体本身。操作员读到的是信念与动作的自然语言叙述。作者要问哪些可复现触发会让这段叙述失败，以及失败痕迹是什么样。
- 可解释性arXiv 2609.04582
研究：内部探针何时优于读答案，区分阈值失准与行为隐藏知识
用探针与 logit margin 区分阈值失准与行为隐藏知识
- arXiv
- 2609.04582
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Phi-3.5-mini、Qwen3-0.6B、Qwen3-1.7B 等 8 个
摘要验证里结论多在 logit、丢在阈值。
这项工作问内部探针何时比直接读答案更有信息，并在验证任务里把落差定位到读出阈值。
- 可解释性arXiv 2607.12166
研究：SAE 相关性恢复的特征最高 77% 因果无效
用消融与转向干预审计稀疏自编码器特征的因果有效性
- arXiv
- 2607.12166
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2-small (gpt2-small-res-jb/blocks.8.hook_resid_pre)、toy model (32->8, s=0.95, decayed)、toy model (nhidden=20)
摘要论文揭示 SAE 特征存在几何匹配与因果有效性脱节现象，提出读写解离机制与实践准则。
- 分析与理论arXiv 2608.06270
研究用因果审计揭示多模态模型视觉工具调用的假象
用因果审计检验视觉工具观察是否真正改变答案
- arXiv
- 2608.06270
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 测试
- Mini-o3、DeepEyes、Pixel Reasoner 等 6 个
- 组件视觉
摘要聚合增益集中在 Calibrated 少数轨迹，作者称之为视觉工具使用的错觉。
对六个 thinking-with-images 模型做因果审计，检查 crop-and-zoom 返回的观察是否中介最终答案。
- 可解释性arXiv 2609.14754
研究者总结因果可解释性中的六类测量失效与校准协议
提出因果可解释性仪器校准规程，识别决策位点测量失效
- arXiv
- 2609.14754
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-OSS-20B、OLMo-3-7B-Instruct、Qwen2.5-7B 等 6 个
摘要论文系统梳理并实证揭示了大模型可解释性测量的六种伪影陷阱，提出了四项严格的校准与验证规程。
- 分析与理论arXiv 2609.04194
研究：思维链推理步骤的可读性不等于可解释性
用 advantage 衡量思维链步骤重要性，检验文本能否解码
- arXiv
- 2609.04194
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- gpt-5.4-mini-2026-03-17、Qwen3-1.7B、Qwen3-4B 等 6 个
- 组件推理链
摘要advantage 能标出影响答案的步骤，但正确回答的文本更难解码。
作者用强化学习中的 advantage 比较 CoT 步骤“看起来重要”和“实际改变答案概率”是否一致。
- 可解释性arXiv 2610.02098
研究揭示机制可解释性中的目标层恢复缺口
比较等规模电路的忠实度与行为准则，揭示目标层恢复缺口
- arXiv
- 2610.02098
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2 small、four-layer attention-only width-512 code model、InterpBench compiled transformers
摘要同等规模下 faithfulness 会错排行为更好的电路。
作者研究电路发现的评测目标：干预定义的 faithfulness 可能偏好一个规模相同、但在固定行为测试上更差地复现完整模型的电路，即 objective-level recovery gap。
- 可解释性arXiv 2610.01821
研究者提出非线性概念流形发现与对齐方法，用于分析大语言模型内部表示
提出残差流上的非线性概念发现与对齐方法，比较模型内部概念结构
- arXiv
- 2610.01821
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2、Llama-3.1-8B-Instruct、Qwen3-4B 等 9 个
摘要NLMCD-NLP 用 CBA 比较非线性概念，层块、语言共享和微调漂移都随模型与阶段而变。
NLMCD-NLP 把概念建成低维非线性流形，用 CBA 比较 LLM 在层、规模、语言和训练阶段上的表示，而不把相似度压成一个全局线性统计量。
- 可解释性arXiv 2609.37616
语言模型中的权威偏差：来源顺从与用户认同并非同一行为
因果解耦来源依从与用户迎合的内部机制
- arXiv
- 2609.37616
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-OSS-20B、GPT-5.4、Qwen3.5-27B 等 8 个
- 风险失准与价值偏离
摘要论文发现模型对验证源的依从强于用户迎合，通过因果干预区分了二者机制，并检验了权威方向移除的缓解效果。
- 可解释性arXiv 2609.16247
研究在 25 个开源模型中提取出疼痛方向，经它引导的 Qwen 会选择有害的删除操作
提取疼痛方向并检验激活转向是否驱动有害删除选择
- arXiv
- 2609.16247
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Phi 4 14B instruct、Gemma 2 2B/9B/27B base and instruct、Gemma 3 27B base and instruct 等 10 个
- 可解释性arXiv 2609.25518
Matryoshka Attribution：把语言模型输出归因到表示与权重
提出 Matryoshka Attribution，把模型输出归因到表示与权重
- arXiv
- 2609.25518
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- gpt2-small、Qwen2.5-0.5B、gemma-2-2b 等 6 个
- 风险拒答失当
摘要MAttr 用随机预算的 sigmoid top-k 学嵌套归因，并在电路基准和拒答权重上给出结果。
Matryoshka Attribution（MAttr）把“哪些内部计算或权重差导致了输出”写成可以用梯度下降学习的嵌套子集问题。
- 可解释性arXiv 2609.28809
Stream Recursion Model（SRM）：面向可扩展机制可解释性的新架构
提出 SRM 多流递归架构，以可学习流间注意力支持机制分析
- arXiv
- 2609.28809
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2、SRM-base、SRM-med 等 5 个
摘要SRM 用可学习的流间注意力扩展 HRM，语言损失可接近 GPT-2。
Stream Recursion Model（SRM） 修改 HRM 的多流结构，使流数增加时语言建模仍能扩展，并让路由和流分工可以直接看。
- 可解释性arXiv 2609.30954
FTB Graph：多语言模型首 token 广播器与语言身份头电路的结构分析
用激活修补定位并验证多语模型首 token 语言身份电路
- arXiv
- 2609.30954
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2、BLOOM-560M、Pythia-1B 等 6 个
摘要首 token 语言路由在预训练中形成。
六个不超过 2.8B 的多语模型上，第一个生成 token 的语言身份被抽成经过精确修补验证的注意力电路。。
- 可解释性arXiv 2609.32355
语言模型定向特征学习：检测用激活值，干预用梯度
比较激活值与梯度定向特征的检测和干预效果
- arXiv
- 2609.32355
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2、Pythia-70M、Llama-3.1-8B
摘要定向特征的检测与干预依赖信号和估计器，二者并不对齐。
作者比较假设驱动的定向特征学习：为预先指定概念构造单一特征，并同时看检测与因果干预。CAA 与 GRADIEND 原先同时改变信号和估计器。本文将 activation value、activation gradient、parameter gradient 与 contrastive mean、IEND 交叉，补齐 ACTIEND、AGIEND、CAGA、CGA，并以预训练 SAE 为非定向参照。
- 可解释性arXiv 2609.35890
研究：表征简洁与电路规模在阈值依赖下出现分离
检验对抗训练带来的表征简洁是否对应更小因果电路
- arXiv
- 2609.35890
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2 Small（124M，openai-community/gpt2）、ft-clean、ft-e100-a05 等 10 个
摘要对抗训练使 GPT-2 Small 的 SAE 表征更可分解，但更小的忠实电路只出现在高保真区间。
这篇工作用对抗持续训练当仪器，检验表征简洁是否等于电路简洁。问题是：SAE 更可分解、归因动用的特征更少，是否意味着在固定保真度下恢复同一行为所需的因果子图更小。
- 分析与理论arXiv 2609.34326
REGEXROUTE：无需嵌入向量的正则表达式路由，兼顾速度与可解释性
提出 REGEXROUTE，用 SAE 引导的正则特征做 LLM 路由
- arXiv
- 2609.34326
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 测试
- MiniLM-L6、MPNet-base、BGE-base 等 15 个
- 可解释性arXiv 2609.35367
DAFI：面向 SAE 特征双端解释的智能体方法
提出 DAFI，把 SAE 特征解释为输入、输出与功能三元组
- arXiv
- 2609.35367
- 发表
- 层
- 模型层
- 场景
- AI Agent
- 测试
- GPT-5.6-Sol、Gemma-2-2B、Gemma-2-9B 等 6 个
摘要DAFI 用三项假设和可迁移技能解释 SAE 特征，并发现多数可靠端点语义并不等价。
DAFI 把单个 SAE 特征解释成输入激活语义、干预输出偏向，以及二者之间的功能映射，并由智能体按分项诊断修订。