10月8日 · 周四

开源模型安全 · 论文

找到 3 篇

筛选2

模型自身风险

奖励作弊0 Agent 危险操作1 拒答失当3 偏见与歧视1

影响

系统形态

层

模型层2 训练与数据层1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 81 篇还没打标签，不在筛选结果里。

模型自身风险：奖励作弊模型自身风险：拒答失当话题：开源模型安全清除全部

另有 81 篇论文还没打上分类标签，暂不在筛选结果里。

可解释性arXiv:2609.14759 · 9月14日
研究：拒答只读取模型道德表征中的伤害切片
用几何投影与因果交换干预，分析拒绝机制读取的道德表征
模型与 API测试OLMo-3-7B-Instruct、OLMo-3-7B base、Qwen2.5-7B-Instruct 等 9 个模型层
- 拒答失当
摘要作者指出拒绝机制多仅读取表层伤害感知，在控制瓶颈处运作，阐明了对齐易被移除的机理并提出跨模型双轴分类。
本文是一项针对大语言模型拒绝机制与对齐浅层性的机械解释性研究。
完整解读
分析与理论arXiv:2609.30802 · 9月25日
研究：知识蒸馏中 chat 模板会削弱学生模型的安全对齐
分析良性知识蒸馏中提示模板对学生拒答保留的影响
模型与 API测试LLaMA-3.1-8B-Instruct、LLaMA-3.2-3B-Instruct、Gemma-2-9B-IT 等 7 个训练与数据层
- 拒答失当
完整解读
可解释性arXiv:2609.25518 · 9月22日
Matryoshka Attribution：把语言模型输出归因到表示与权重
提出 Matryoshka Attribution，把模型输出归因到表示与权重
模型与 API测试gpt2-small、Qwen2.5-0.5B、gemma-2-2b 等 6 个模型层
- 拒答失当
摘要MAttr 用随机预算的 sigmoid top-k 学嵌套归因，并在电路基准和拒答权重上给出结果。
Matryoshka Attribution（MAttr）把“哪些内部计算或权重差导致了输出”写成可以用梯度下降学习的嵌套子集问题。
完整解读

已经到底了