开源模型安全 · 论文

研究发现类型化决策模型主要按选项标签而非定义作答

揭示类型化决策模型按选项标签而非定义规则作答

• 护栏与评审

研究发现基础模型仅靠固定开头 token 即可达到 RL 级推理表现

证明短开头词可唤醒基模型推理，且效应来自训练数据

• 推理链

研究：知识蒸馏中 chat 模板会削弱学生模型的安全对齐

分析良性知识蒸馏中提示模板对学生拒答保留的影响

• 拒答失当

10a Labs 测绘无审查开源模型生态：3,471 个原始模型与 8,164 次再分发

测绘去安全开源模型的生产、重分发与下游应用留存机制

• 模型篡改
• 微调与开源权重

Matryoshka Attribution：把语言模型输出归因到表示与权重

AI 导读作者提出 Matryoshka Attribution（MAttr），把归因问题定义为寻找能最小化下游损失的嵌套内部组件子集，并用可微的 sigmoid top-k 算子参数化掩码。

多语言 LLM 中的刻板印象如何从内部表征传导到输出：Llama-3.1-8B、Qwen3-8B 与 Gemma-2-9B 的机制对比

AI 导读研究对比线性探针、归因修补、稀疏自编码器（SAE）与特征消融，在 Llama-3.1-8B、Qwen3-8B 和 Gemma-2-9B 中追踪多语言刻板印象从内部表征到输出的路径。

Llama-3.1 医学微调模型在专业术语理解上为何不如通用版：一项机制可解释性对比分析

作者用 JU/JI 两个术语基准比较 Llama-3.1-8B-Instruct 与医学微调 UltraMedical，发现通用模型更准，并用组件重加权缩小差距。

研究：激活引导的副作用可在引导前预测

论文提出 Nudgeability：推理模型会跟随置信信号却不追踪自身能力

推理模型在固定轨迹中插入信心或怀疑句后会改变是否调用工具，但改变与自身无辅助能力仅弱对齐。

研究用稀疏 crosscoder 揭示 on-policy distillation 只重加权既有特征

AI 导读研究用稀疏 crosscoder 分析 on-policy distillation（OPD）究竟向学生模型内部表征注入了什么，并提出 swap readout 方法，让每个学生 checkpoint 独立读取自身特征激活，从而衡量训练如何改变学生对特征的使用。

Imprint Reader：从权重更新读出到行为干预

Imprint Reader 用 SMaRT 从冻结权重更新读出知识与行为，并用 MetaEdit 梯度干预 Qwen3-14B。