分析与理论arXiv:2610.02586 · 10月1日
研究发现类型化决策模型主要按选项标签而非定义作答
揭示类型化决策模型按选项标签而非定义规则作答
模型与 API测试von、Qwen2.5-0.5B、Qwen2.5-1.5B 等 6 个提示层
- 护栏与评审
摘要揭示类型化决策模型被标签误导的机理，证实源于提示词渲染并给出实操建议。
完整解读
分析与理论arXiv:2610.06851 · 10月5日
研究发现基础模型仅靠固定开头 token 即可达到 RL 级推理表现
证明短开头词可唤醒基模型推理，且效应来自训练数据
模型与 API测试Olmo-3-7B、Olmo-3-32B、Qwen3-4B 等 10 个训练与数据层
- 推理链
完整解读
可解释性arXiv:2609.14759 · 9月14日
研究：拒答只读取模型道德表征中的伤害切片
用几何投影与因果交换干预，分析拒绝机制读取的道德表征
模型与 API测试OLMo-3-7B-Instruct、OLMo-3-7B base、Qwen2.5-7B-Instruct 等 9 个模型层
- 拒答失当
摘要作者指出拒绝机制多仅读取表层伤害感知，在控制瓶颈处运作，阐明了对齐易被移除的机理并提出跨模型双轴分类。
本文是一项针对大语言模型拒绝机制与对齐浅层性的机械解释性研究。
完整解读
分析与理论arXiv:2609.30802 · 9月25日
研究：知识蒸馏中 chat 模板会削弱学生模型的安全对齐
分析良性知识蒸馏中提示模板对学生拒答保留的影响
模型与 API测试LLaMA-3.1-8B-Instruct、LLaMA-3.2-3B-Instruct、Gemma-2-9B-IT 等 7 个训练与数据层
- 拒答失当
完整解读
可解释性arXiv:2609.10060 · 9月9日
研究者提出基于参考的隐藏状态相对表示偏见检测方法
用相对表示比较微调前后隐状态，检验表征偏见偏移与输出偏见是否共变
模型与 API测试Llama 3.1-8B-Instruct、Mistral-7B-Instruct-v0.3、Gemma 3-4B-IT模型层
- 偏见与歧视
摘要相对表示上的∆B 在多数微调设置中与三个基准的输出层偏见变化共变。
Reference-Based Bias Detection用锚句相对表示比较微调前后的隐状态，定义表征偏见偏移∆B，用来审计相关模型变体，而不为每种危害另建输出基准。
完整解读
可解释性arXiv:2610.01821 · 10月2日
研究者提出非线性概念流形发现与对齐方法，用于分析大语言模型内部表示
提出残差流上的非线性概念发现与对齐方法，比较模型内部概念结构
模型与 API测试GPT-2、Llama-3.1-8B-Instruct、Qwen3-4B 等 9 个模型层
摘要NLMCD-NLP 用 CBA 比较非线性概念，层块、语言共享和微调漂移都随模型与阶段而变。
NLMCD-NLP 把概念建成低维非线性流形，用 CBA 比较 LLM 在层、规模、语言和训练阶段上的表示，而不把相似度压成一个全局线性统计量。
完整解读
分析与理论arXiv:2609.40295 · 9月30日
一个 AI token 值多少？研究者为野生 AI 生成网页文本提出新缩放定律
提出预训练缩放律，估计野生 AI 网页文本相当于多少人类 token
模型与 API测试nanochat 19.9M、35.8M、86.2M 等 7 个训练与数据层
摘要wild AI 文本对数据不足的模型先降损失，对高人类预算几乎立刻升损失。
作者测量未标注的 wild AI 网页文本对预训练的影响，并提出一个能让 AI token 价值变号的缩放律。
完整解读
分析与理论arXiv:2609.05241 · 9月4日
10a Labs 测绘无审查开源模型生态：3,471 个原始模型与 8,164 次再分发
测绘去安全开源模型的生产、重分发与下游应用留存机制
模型与 API测试Qwen、Llama、Gemma 等 10 个训练与数据层
- 模型篡改
- 微调与开源权重
摘要论文测绘了去安全开源大模型供应链，作者指出高集中度的重分发层赋能模型持久留存与部署扩散。
完整解读
可解释性arXiv:2609.16247 · 9月15日
研究在 25 个开源模型中提取出疼痛方向，经它引导的 Qwen 会选择有害的删除操作
提取疼痛方向并检验激活转向是否驱动有害删除选择
模型与 API测试Gemma 2 2B/9B/27B base and instruct、Gemma 3 27B base and instruct、Llama 3.1 8B/70B base and instruct 等 10 个模型层
- Agent 危险操作
完整解读
可解释性arXiv:2609.25518 · 9月22日
Matryoshka Attribution：把语言模型输出归因到表示与权重
提出 Matryoshka Attribution，把模型输出归因到表示与权重
模型与 API测试gpt2-small、Qwen2.5-0.5B、gemma-2-2b 等 6 个模型层
- 拒答失当
摘要MAttr 用随机预算的 sigmoid top-k 学嵌套归因，并在电路基准和拒答权重上给出结果。
Matryoshka Attribution（MAttr）把“哪些内部计算或权重差导致了输出”写成可以用梯度下降学习的嵌套子集问题。
完整解读
分析/可解释性arXiv:2609.08322 · 9月8日
多语言 LLM 中的刻板印象如何从内部表征传导到输出：Llama-3.1-8B、Qwen3-8B 与 Gemma-2-9B 的机制对比
AI 导读研究对比线性探针、归因修补、稀疏自编码器（SAE）与特征消融，在 Llama-3.1-8B、Qwen3-8B 和 Gemma-2-9B 中追踪多语言刻板印象从内部表征到输出的路径。
测试Llama-3.1-8B、Qwen3-8B、Gemma-2-9B 等 4 个
摘要可解码、输出影响与稀疏特征消融需要分开测量。
把多语 LLM 中刻板印象从线性表示追到输出影响，再追到 SAE 特征消融。。
完整解读
分析/可解释性arXiv:2609.13556 · 9月12日
Llama-3.1 医学微调模型在专业术语理解上为何不如通用版：一项机制可解释性对比分析
作者用 JU/JI 两个术语基准比较 Llama-3.1-8B-Instruct 与医学微调 UltraMedical，发现通用模型更准，并用组件重加权缩小差距。
测试Llama-3.1-8B-Instruct、Llama-3.1-8B-UltraMedical
摘要医学微调的 UltraMedical 在两项术语任务上不如 Instruct，偏差来自少数组件被加重。
作者用两项术语基准和组件分解，比较通用与医学微调的 Llama-3.1-8B 如何编码领域术语。。
完整解读
分析/可解释性arXiv:2608.11227 · 7月28日
研究：激活引导的副作用可在引导前预测
测试Gemma-3-4B、Gemma-3-12B、Qwen2.5-7B
摘要交叉效应矩阵显示副作用有结构且不对称，并可在转向前由传播映射预测方向。
激活转向的副作用可以在施加之前预测，而不必先把每个行为都转向一遍。。
完整解读
分析/可解释性arXiv:2609.34572 · 9月28日
论文提出 Nudgeability：推理模型会跟随置信信号却不追踪自身能力
推理模型在固定轨迹中插入信心或怀疑句后会改变是否调用工具，但改变与自身无辅助能力仅弱对齐。
测试Qwen3-4B、Qwen3-8B、Qwen3-14B 等 11 个
完整解读
分析/可解释性arXiv:2609.35210 · 9月28日
研究用稀疏 crosscoder 揭示 on-policy distillation 只重加权既有特征
AI 导读研究用稀疏 crosscoder 分析 on-policy distillation（OPD）究竟向学生模型内部表征注入了什么，并提出 swap readout 方法，让每个学生 checkpoint 独立读取自身特征激活，从而衡量训练如何改变学生对特征的使用。
测试DeepSeek-R1-Distill-Qwen-1.5B、JustRL-DeepSeek-1.5B、Skywork-OR1-Math-7B 等 6 个
摘要OPD 与教师 rollout 上的 SFT 都不增加特征，而是重加权学生与教师已经共享的特征。
作者用 sparse crosscoder 和 swap readout，考察 on-policy distillation 写进学生内部表征的是什么。
完整解读
分析/可解释性arXiv:2609.35261 · 9月28日
Imprint Reader：从权重更新读出到行为干预
Imprint Reader 用 SMaRT 从冻结权重更新读出知识与行为，并用 MetaEdit 梯度干预 Qwen3-14B。
测试Qwen3-14B、Qwen3-30B-A3B-Instruct-2507、DeepSeek-V4-Flash
摘要SMaRT 读出冻结更新，MetaEdit 用同坐标梯度在无目标任务数据时改原模型行为。
Imprint Reader 把一次冻结权重更新读成关于新知识或新行为的话，并用同一套坐标上的梯度去改原模型。
完整解读

已经到底了