10月8日 · 周四

开源模型安全 · 论文

找到 2 篇

筛选3

模型自身风险

欺骗与谋划0 失准与价值偏离2 Agent 危险操作1 危险能力1 拒答失当2

防御类型

检测与过滤1

影响

系统形态

层

模型层8 训练与数据层2

系统组件

微调与开源权重1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 65 篇还没打标签，不在筛选结果里。

模型自身风险：欺骗与谋划模型自身风险：拒答失当层：训练与数据层话题：开源模型安全清除全部

另有 65 篇论文还没打上分类标签，暂不在筛选结果里。

分析与理论arXiv 2609.308029月25日
研究：知识蒸馏中 chat 模板会削弱学生模型的安全对齐
分析良性知识蒸馏中提示模板对学生拒答保留的影响
arXiv
2609.30802
发表
9月25日
层
训练与数据层
场景
模型与 API
测试
LLaMA-3.1-8B-Instruct、LLaMA-3.2-3B-Instruct、Gemma-2-9B-IT 等 7 个
- 风险拒答失当
深度解读完整解读
防御arXiv 2607.150817月16日
DataShield：通过共识子空间对齐识别 LLM 微调中的高风险数据
提出 DataShield，用共识子空间过滤会削弱安全的微调数据
arXiv
2607.15081
发表
7月16日
层
训练与数据层
场景
模型与 API
测试
Llama3-8B-Instruct、Qwen2.5-7B-Instruct、Mistral-7B-Instruct-v0.3 等 8 个
- 防御检测与过滤
- 风险拒答失当
- 组件微调与开源权重
深度解读完整解读

已经到底了