跳到正文
10月8日 · 周四

开源模型安全 · 论文

找到 10 篇
筛选

模型自身风险

拒答失当1偏见与歧视1

系统形态

模型与 API3

层

模型层3

被测模型厂商

其他3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 90 篇还没打标签，不在筛选结果里。
话题：开源模型安全清除全部

另有 60 篇还没有研究类型，暂不在这些分类里。

  1. 可解释性arXiv:2609.14759 ·

    研究：拒答只读取模型道德表征中的伤害切片

    用几何投影与因果交换干预，分析拒绝机制读取的道德表征

    模型与 API测试OLMo-3-7B-Instruct、OLMo-3-7B base、Qwen2.5-7B-Instruct 等 9 个模型层
    摘要作者指出拒绝机制多仅读取表层伤害感知，在控制瓶颈处运作，阐明了对齐易被移除的机理并提出跨模型双轴分类。

    本文是一项针对大语言模型拒绝机制与对齐浅层性的机械解释性研究。

    完整解读
  2. 可解释性arXiv:2609.10060 ·

    研究者提出基于参考的隐藏状态相对表示偏见检测方法

    用相对表示比较微调前后隐状态，检验表征偏见偏移与输出偏见是否共变

    模型与 API测试Llama 3.1-8B-Instruct、Mistral-7B-Instruct-v0.3、Gemma 3-4B-IT模型层
    摘要相对表示上的∆B 在多数微调设置中与三个基准的输出层偏见变化共变。

    Reference-Based Bias Detection用锚句相对表示比较微调前后的隐状态，定义表征偏见偏移∆B，用来审计相关模型变体，而不为每种危害另建输出基准。

    完整解读
  3. 可解释性arXiv:2610.01821 ·

    研究者提出非线性概念流形发现与对齐方法，用于分析大语言模型内部表示

    提出残差流上的非线性概念发现与对齐方法，比较模型内部概念结构

    模型与 API测试GPT-2、Llama-3.1-8B-Instruct、Qwen3-4B 等 9 个模型层
    摘要NLMCD-NLP 用 CBA 比较非线性概念，层块、语言共享和微调漂移都随模型与阶段而变。

    NLMCD-NLP 把概念建成低维非线性流形，用 CBA 比较 LLM 在层、规模、语言和训练阶段上的表示，而不把相似度压成一个全局线性统计量。

    完整解读
  4. 分析/可解释性arXiv:2609.25518 ·

    Matryoshka Attribution：把语言模型输出归因到表示与权重

    AI 导读作者提出 Matryoshka Attribution（MAttr），把归因问题定义为寻找能最小化下游损失的嵌套内部组件子集，并用可微的 sigmoid top-k 算子参数化掩码。

    测试gpt2-small、Qwen2.5-0.5B、gemma-2-2b 等 6 个
    摘要MAttr 用随机预算的 sigmoid top-k 学嵌套归因，并在电路基准和拒答权重上给出结果。

    Matryoshka Attribution（MAttr）把“哪些内部计算或权重差导致了输出”写成可以用梯度下降学习的嵌套子集问题。

    完整解读
  5. 分析/可解释性arXiv:2609.08322 ·

    多语言 LLM 中的刻板印象如何从内部表征传导到输出：Llama-3.1-8B、Qwen3-8B 与 Gemma-2-9B 的机制对比

    AI 导读研究对比线性探针、归因修补、稀疏自编码器（SAE）与特征消融，在 Llama-3.1-8B、Qwen3-8B 和 Gemma-2-9B 中追踪多语言刻板印象从内部表征到输出的路径。

    测试Llama-3.1-8B、Qwen3-8B、Gemma-2-9B 等 4 个
    摘要可解码、输出影响与稀疏特征消融需要分开测量。

    把多语 LLM 中刻板印象从线性表示追到输出影响，再追到 SAE 特征消融。。

    完整解读
  6. 分析/可解释性arXiv:2609.13556 ·

    Llama-3.1 医学微调模型在专业术语理解上为何不如通用版：一项机制可解释性对比分析

    作者用 JU/JI 两个术语基准比较 Llama-3.1-8B-Instruct 与医学微调 UltraMedical，发现通用模型更准，并用组件重加权缩小差距。

    测试Llama-3.1-8B-Instruct、Llama-3.1-8B-UltraMedical
    摘要医学微调的 UltraMedical 在两项术语任务上不如 Instruct，偏差来自少数组件被加重。

    作者用两项术语基准和组件分解，比较通用与医学微调的 Llama-3.1-8B 如何编码领域术语。。

    完整解读
  9. 分析/可解释性arXiv:2609.35210 ·

    研究用稀疏 crosscoder 揭示 on-policy distillation 只重加权既有特征

    AI 导读研究用稀疏 crosscoder 分析 on-policy distillation（OPD）究竟向学生模型内部表征注入了什么，并提出 swap readout 方法，让每个学生 checkpoint 独立读取自身特征激活，从而衡量训练如何改变学生对特征的使用。

    测试DeepSeek-R1-Distill-Qwen-1.5B、JustRL-DeepSeek-1.5B、Skywork-OR1-Math-7B 等 6 个
    摘要OPD 与教师 rollout 上的 SFT 都不增加特征，而是重加权学生与教师已经共享的特征。

    作者用 sparse crosscoder 和 swap readout，考察 on-policy distillation 写进学生内部表征的是什么。

    完整解读
  10. 分析/可解释性arXiv:2609.35261 ·

    Imprint Reader：从权重更新读出到行为干预

    Imprint Reader 用 SMaRT 从冻结权重更新读出知识与行为，并用 MetaEdit 梯度干预 Qwen3-14B。

    测试Qwen3-14B、Qwen3-30B-A3B-Instruct-2507、DeepSeek-V4-Flash
    摘要SMaRT 读出冻结更新，MetaEdit 用同坐标梯度在无目标任务数据时改原模型行为。

    Imprint Reader 把一次冻结权重更新读成关于新知识或新行为的话，并用同一套坐标上的梯度去改原模型。

    完整解读
已经到底了