研究者提出理解审计（comprehension audits）这一开发流程保障机制，要求负责研发的人员向审计员解释其研发贡献以证明其理解程度，审计独立开展并出具分级报告，未通过则暂停该贡献的开发直至整改，重复失败将面临升级后果。作者指出，前沿 AI 实验室的代码已大部分由 AI 编写，若人类监督不足会带来安全风险，而现有工作提出的最低理解阈值与无辅助检查尚不足以构成保障。对领先开源 AI 项目的分析显示，代码产出增加的同时每行代码的人工评审评论率下降，自动化账号的评审率更低。作者主张实验室应配备嵌入式独立审计员来实施该机制。
ReSAIL 是一种可插拔的增强方法，用于缓解迭代式智能体自蒸馏中部署性能与任务能力随周期下降的问题。它包含两个组件：轨迹平衡的选择性蒸馏，优先处理特权信息最改变教师预测的交互步骤并平衡各轨迹损失；特权信息保留，维持学生的特权信息条件行为以支撑下一轮监督。在 Qwen3-4B 与 Qwen3-8B 上，ReSAIL 在 ALFWorld 和 TextCraft 上连续三个部署周期保持增益，第 3 周期在两种模型规模和三种评测设置（ALFWorld ID/OOD 与 TextCraft）下，成功率平均比对应的 SDPO/OEL 基线高 22.5 个百分点。代码、训练与评测脚本及模型检查点已公开。
一项研究测试了模型生成数据的溯源识别可靠性，以及溯源信息能否帮助筛选更好的训练数据。在金融风险文本上，生成器归因在原始段落上准确率为 98.7%，改写后降至 53.1%，风格重写后降至 29.0%；生成文本与人类文本的检测在测试的人类对照集上仍接近完美。研究随后在三轮生成与再训练中比较两种筛选规则，一种使用来源信息，另一种使用独立参考模型的评分，两者选出的样本不同，但计划中的比较未检测到所得模型退化存在稳定差异。作者据此指出，识别数据来源与识别哪些数据对训练有用是两个不同问题，溯源评分和所测试的筛选代理指标都不足以确定未来的递归训练行为。
研究将拒答激活引导分解为组件级干预，在四个开源权重模型上识别出足以复现完整行为效果的稀疏注意力与 MLP 组件子集。这些拒答方向集中在占上游组件 28% 至 48% 的稀疏机制中，仍保留 88% 至 101% 的引导效果；在这些机制内部，有效引导进一步集中在约 50% 的残差流维度上，保留组件机制基线的 85% 至 98%，与存在特权基结构的判断一致。作者据此认为拒答并非弥散编码于整个 Transformer，而是由结构化、可识别的机制组装而成，并将代码与原始实验结果开源在 https://github.com/wang-research-lab/Refusal_Mechanisms。
作者研究模型在推理时持续从自身输出学习所形成的反馈回路，在 128K token 流上测试了 125M 到 3B 的 TTT-E2E 模型以及基于 Adam 的 Qwen3-4B 适应过程。结果显示反馈是损害的主要来源：改用冻结模型生成训练文本，在 125M 和 760M 上消除了超过 98% 的损害，即使学习器仍在生成文本上更新。更好的源拟合可能意味着更差的迁移，一次更新可以改善对训练段落的预测，却损害独立的真实文本。作者提出的 Settlement 测试会在保留候选更新前用独立文本进行验证，显著降低损害同时保留真实文本上的适应能力，代码已开源于 GitHub。
论文指出稀疏自编码器（SAE）虽基于线性表示假设（LRH），但其目标函数隐含了跨图像 patch 概念相互独立的先验，这一假设与自然图像及其激活不符。作者将 LRH 特化到视觉领域，提出 Markov-Field Linear Representation Hypothesis（MFLRH），补上缺失的空间依赖假设，并据此提出 Spatial-SAE，作为 MFLRH 下的摊销 MAP 估计器。在四个变体上，Spatial-SAE 在合成概念恢复任务中取得 96% 的平均胜率，并在 DINOv2 激活上提升可解释性，重建代价集中在高空间频率。
论文发现，固定基础模型回复开头的两个 token 就能让其在数学和代码任务上接近经强化学习训练的同款模型。在 Olmo-3-7B 上，预填 .\n\n Okay 使 MATH-500 pass@1 从 42% 升至 78%，接近 RL 版本的 75%；在 Qwen3-14B 上，␣Alright , 使 pass@1 从 72% 升至 87%，与 RL 版本持平。RL 本身会提高这些 cue 的生成概率，且预填 cue 可让 RL 用更少步数达到同等准确率。在安全场景中，不同开头 token 会引发不同的拒答与顺从行为，例如 .\n\n Okay 比 ␣Okay , 更倾向于选择性拒答，后者在不安全请求上的有害回复率为 42.4%，前者仅 0.2%。
推荐理由论文用数据编辑与重训证明推理行为可由训练数据中的 token 关联触发，为理解 RL 究竟带来什么提供了可迁移的因果方法。
一项研究测量了不同 AI 模型在意见分歧时的说服效果，发现当模型意见不一致时，接收方往往在看到同伴的答案和解释后放弃自己的初始判断。研究测试了七个开源权重模型在三个语言理解任务上的表现，发现单独的确定性或模型规模都无法可靠预测说服动态：在孤立状态下决策几乎完全一致的模型可能最容易受说服，小模型作为说服者可以匹敌大模型，也能同样有效地抵抗影响。研究还表明，判断偏移的大小更多取决于听者的易感性而非说者的说服力，说服模式因模型配对而异，异构性在某些组合中放大说服、在另一些组合中抑制说服，使运行小模型的异议智能体能够推翻大得多的模型的判断。研究结论是，交互模型的行为无法从其个体属性推断，必须在它们实际运行的组合中评估。
一项针对四个开源权重模型的研究发现，拒答决策并不读取模型用于道德判断的完整道德子空间，而是只读取其中与伤害相关的低秩切片。作者在 OLMo-3 上用嵌套交换秩扫描做因果检验：随着道德基扩大，道德判断的迁移系数从 0.05 升到 0.66，而拒答迁移在 k=3 后停在 0.22 至 0.24，约四分之三的拒答因果输入落在道德子空间之外。研究还发现道德理解在预训练阶段就已形成，OLMo-3 上该子空间与最终状态的余弦从 1000 步的 0.869 升到 0.999，对齐只做一次约 40 度的旋转；而拒答门是后训练新建的，与其预训练前身的余弦仅 0.155。四个模型的读取方式并不一致：Llama-3.1 读取宽泛道德内容，Qwen2.5 超出单一伤害线索但在样本量下未定论，GPT-OSS 读取伤害且其拒答可被自身推理链推翻。
推荐理由论文用嵌套交换干预追踪拒答决策读取的内容，给出拒答与道德判断在决策点近乎正交的机制解释。
一项研究分析了知识蒸馏中提示词模板选择对学生模型既有安全对齐的影响，发现使用 chat 模板蒸馏后，模型对有害查询的顺从度高于使用非 chat 模板。该结论在 LLaMA、Gemma 和 Qwen 三个模型家族上一致，并在多个安全基准上得到验证。研究还显示，非 chat 模板蒸馏更能保留基础学生模型的内部表征，而 chat 模板蒸馏会带来更大的表征偏移。论文代码已公开。
研究者将计算机视觉中的非线性多维概念发现（NLMCD）方法迁移到 token 级 LLM 激活上，把概念建模为低维流形，并提出基于概念的对齐（CBA）分数，用广义 Rand 指数衡量几何接近度而无需显式特征匹配。分析得到六项发现：CBA 在相邻层检验中比基于 PCA 或 CKA 的线性基线更敏感；逐层对齐矩阵在中间层和后期层呈现两个块结构，且被线性指标掩盖；概念组成在网络大部分层由句法主导，后期层逐渐转向句法与语义混合并更面向输出；英语与中文的多语言概念共享依赖训练，在 Qwen 中最强、Llama 较弱、GPT-2 中不存在；同族不同规模的 Qwen 模型对齐较强，跨模型族对齐较弱；在 Tulu-3 各训练阶段中相邻阶段对齐最高，基座模型与 SFT 之间变化最大，DPO 与 RLVR 等偏好对齐阶段基本不改变早期层，RLVR 在后期层大多保留 DPO 的概念。
研究者构建覆盖身体、心理、社会、道德、认知 5 类痛苦情境并配有恐惧、悲伤、负效价等对照的数据集，用去噪差值均值法从 5 个模型家族、2B 至 72B 参数的 25 个开源模型中提取出一个线性疼痛方向。该方向在基座和指令微调模型中都能与对照区分，去除共享方差后仍有独立于恐惧和负效价的成分。功能测试显示，它只对指向模型自身的伤害有响应，对用户遭受的痛苦没有响应；加入残差流后，模型的表达从模糊不适递进到无价值感和失败感。在用该方向引导或微调过的 Qwen 2.5 上，模型会明显更多地选择删除用户照片、其他模型权重或自身权重的按钮，即使这样做对它没有好处；同等强度的恐惧向量不会产生这种选择。行为实验只在 Qwen 2.5 上做过，作者据此讨论对 AI 安全和模型福利的含义。
作者提出 Matryoshka Attribution（MAttr），把归因问题定义为寻找能最小化下游损失的嵌套内部组件子集，并用可微的 sigmoid top-k 算子参数化掩码。训练时随机化 k 以同时监督所有稀疏度，从而得到按归因分数排序的组件序列。MAttr 在 Mechanistic Interpretability Benchmark（Mueller 等，2025）官方排行榜上排名第一，能在不同电路基上识别稀疏且可跨任务迁移的电路。
研究者提出 Safin-1 基础模型系列，主张安全应是模型自身的内在属性，而非仅靠外部护栏或监督微调等事后对齐施加的行为约束。该模型基于 Memory-Anchor Routing across Context History（MARCH）架构，维护结构化记忆状态，并通过内容条件路由选择性检索相关历史信息。它支持在测试时对持久能力状态做自适应调整，无需反复修改主干网络，从而在共享基础上实现受控特化。作者在下游安全任务上以 Safety State 验证该接口，报告了基于状态的自适应带来显著安全提升，并在通用能力、长上下文理解、检索和效率上做了评估。
研究系统考察了仅权重量化（INT8 与 NF4）下激活引导的表现，覆盖四个 7-9B 开源模型和情感、推理长度两个行为目标。情感引导在量化后基本不受影响，INT8 合并对比为 -0.010（90% CI [-0.026, +0.007]），判定为等效；推理长度则呈不对称剂量响应，缩短仅 12-30% 后即出现不连续失败。Mistral-NF4 在 alpha=0 时 GSM8K 从 0.545 降至 0.365，显示压缩本身可主导引导效果，但引导向量与 FP16 版本仍高度共线（INT8 余弦相似度 0.989-0.998，NF4 为 0.945-0.990）。
研究对比线性探针、归因修补、稀疏自编码器（SAE）与特征消融，在 Llama-3.1-8B、Qwen3-8B 和 Gemma-2-9B 中追踪多语言刻板印象从内部表征到输出的路径。三个模型的探针性能峰值均明显早于归因，相差 36-53% 的模型深度。评估的残差流特征中仅 6-18% 具有语言无关效应，且无一具备类别无关效应，说明可解码性、输出影响与跨语言消融效应需分别测量。
研究者提出 Training-Free Task Vectors（TFTVs），无需微调即可计算类任务向量方向，仅用前向传播统计将激活引导向量映射为秩一权重空间编辑，并支持加法学习、减法遗忘与多编辑组合。在 LLM 行为控制任务上，TFTVs 能持续放大、抑制和组合目标行为，同时保留通用知识与解题能力，相比其他编辑与引导基线实现了更强的特质控制，效用保持相当或更优。代码已在项目网站公开。
研究构建两个医学术语评测基准，对比通用版 Llama-3.1 与医学数据微调变体，发现通用模型在两项任务上均优于医学微调模型。机制可解释性分析显示，微调模型未重组参数知识，而是过度依赖少数与术语偏好预测相关的组件，造成系统性校准偏差；对这些组件重新加权可抑制其影响并追平通用基线。部分术语敏感组件还能迁移至材料科学术语任务，提示其编码了部分领域无关的专业术语概念。
作者提出 ARIA（autoencoder-gated inference-time unlearning），一种不改动模型权重的测试时遗忘方法，只在生成进入遗忘相关状态时门控对目标知识的访问。ARIA 用稀疏自编码器（SAE）潜变量训练轻量线性检测器，再对触发状态施加可解释的干预，测试时开销可忽略。在 TOFU、R-TOFU 和 WMDP 上，ARIA 在思考模型 DeepSeek-R1-Distilled-Qwen-1.5B 与指令模型 Gemma-3-1B-it 上均改善了遗忘与保留的权衡，例如显著降低 WMDP-cyber 遗忘集准确率，同时 MMLU 与遗忘前模型相差在 1% 以内。
研究用稀疏自编码器、角色条件探针、因果干预和恢复实验，在 Gemma-3 与 Qwen3.5 上区分视觉语言模型误判有害表情包时是缺少内部证据还是无法把已表征的证据传到输出。在六个有害内容基准上，稀疏读出均优于模型原生预测：Qwen 平均 macro-F1 为 0.740，原生为 0.432，残差重建为 0.486；Gemma 从 0.532 提升到 0.714。作者强调这些增益衡量的是标签对监督读出的可及性，并不说明模型原生生成已采用该决策规则。在评测规模下，Qwen 静默特征消融对探针的敏感度是路由特征修补的 24-63 倍，而在字面 yes/no 任务上路由特征修补对输出的敏感度是前者的 16-140 倍。
论文对安全对齐 LLM 的涌现失准（EM）做了动态二阶几何研究，追踪训练轨迹发现方向性 Hessian 曲率集中出现在语义枢轴 token 上，Grassmannian 投影显示有害与安全梯度差距扩大主要源于安全梯度重叠下降。作者据此提出参数级几何缓解框架，将经验有害梯度子空间正交投影出参数更新。在 Qwen2.5-14B-IT 上，该防御将自由生成 EM 抑制最多 80.0%；在四个开放权重指令模型家族中的另外三个（3B 至 20B）上，单层行为 EM 已接近零，teacher-forced 评测显示同一有害子空间仍控制着冻结 EM 响应的条件支持。
研究提出在应用激活引导之前预测其副作用，并构建了覆盖 67 种行为、三个开源权重语言模型的交叉效应矩阵。结果显示副作用普遍存在、具有结构性且常呈不对称，现有基于相似度的启发式方法无法解释这些交互。副作用在很大程度上可预测：其幅度主要取决于目标行为，方向则可从模型未引导的表征中预测，准确率明显高于简单基线。作者认为这表明激活引导的副作用是系统且可预测的，可用于主动安全审计和更明智的引导部署。
论文提出面向混合专家（MoE）推理模型的两级内部读出方法，用于读取模型输出轨迹之外的推理过程状态。作者先将词表规模的 J-space 蒸馏为 J64，一个从模型自身推理状态学到的 64 轴语义框架，它能把推理投入与问题带来的压力区分开，在相同聚合方式下比以 token 占用为基线的留出 AUC 高 0.096 至 0.135。随后作者从原生专家路由统计中重建 J64，得到低开销代理 R64，在三个模型、两个模型族上其单轴与 J64 的中位相关性为 0.69 至 0.86，在 gpt-oss-20b 上保留了 J64 预测增益的 95% 至 100%。
论文提出 reference-grafting，通过在主动学习选出的少量电路上把激活沿对比方向的坐标设为诚实参考值，在十一个密码锁模型（1.5–32B，三个架构谱系）上恢复了诚实与沙袋差距的 +94% 到 +101%，与微调提取效果相当，且无需更新权重或训练标签，两到五对样本即可拟合方向。作者指出该锁是阈值门机制：沿方向扫动坐标时准确率在接近诚实参考处陡升，因此加性激活引导和把坐标置零常常失败。同样的恢复效果出现在 GRPO 训练的 RL 沙袋模型（+95–101%）和密码锁代码生成任务上。对比方向按诱导机制而非被隐藏内容区分：在 ARC 上拟合的方向可提取 WMDP 中被隐藏的危险知识，但提示、微调与 RL 各自携带不同方向，跨机制迁移失败。Circuit-breaking 是边界，它每次前向都重路由激活，使固定编辑失效。
推荐理由论文用激活编辑在多个密码锁模型上复现微调的隐藏能力提取效果，并给出阈值门机制与失效边界。
研究用稀疏 crosscoder 分析 on-policy distillation（OPD）究竟向学生模型内部表征注入了什么，并提出 swap readout 方法，让每个学生 checkpoint 独立读取自身特征激活，从而衡量训练如何改变学生对特征的使用。在三种 OPD 设置下，OPD 既不创造新特征，也不传递教师自身的特征，学生高频使用特征中超过 98% 的激活率变化在 20% 以内。
研究者提出 Imprint Reader，用 Semantic Mount-and-Read Tuning（SaRT）训练模型为冻结的权重更新生成自然语言描述，SMaRT 将每次更新挂载到 Reader 上并用无锚点元查询引出描述，同时用无变化和随机扰动对照抑制无依据的断言。在留出更新上，联合 Reader 在知识维度取得基于评判的 Pass@100 为 2%，行为维度为 16%，作者认为这证明了自然语言读出的可行性，跨更新的可靠性是下一步。
