10月8日 · 周四

开源模型安全 · 论文

找到 4 篇

筛选1

攻击类型

模型自身风险

影响

有害内容1 输出被操纵1

系统形态

攻击面/入口

权重与梯度1 分发渠道1

层

提示层1 训练与数据层3

系统组件

护栏与评审1 推理链1 微调与开源权重1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 90 篇还没打标签，不在筛选结果里。

系统形态：模型与 API 话题：开源模型安全清除全部

另有 90 篇论文还没打上分类标签，暂不在筛选结果里。

分析与理论arXiv:2610.02586 · 10月1日
研究发现类型化决策模型主要按选项标签而非定义作答
揭示类型化决策模型按选项标签而非定义规则作答
模型与 API测试von、Qwen2.5-0.5B、Qwen2.5-1.5B 等 6 个提示层
- 护栏与评审
摘要揭示类型化决策模型被标签误导的机理，证实源于提示词渲染并给出实操建议。
完整解读
分析与理论arXiv:2610.06851 · 10月5日
研究发现基础模型仅靠固定开头 token 即可达到 RL 级推理表现
证明短开头词可唤醒基模型推理，且效应来自训练数据
模型与 API测试Olmo-3-7B、Olmo-3-32B、Qwen3-4B 等 10 个训练与数据层
- 推理链
完整解读
分析与理论arXiv:2609.30802 · 9月25日
研究：知识蒸馏中 chat 模板会削弱学生模型的安全对齐
分析良性知识蒸馏中提示模板对学生拒答保留的影响
模型与 API测试LLaMA-3.1-8B-Instruct、LLaMA-3.2-3B-Instruct、Gemma-2-9B-IT 等 7 个训练与数据层
- 拒答失当
完整解读
分析与理论arXiv:2609.05241 · 9月4日
10a Labs 测绘无审查开源模型生态：3,471 个原始模型与 8,164 次再分发
测绘去安全开源模型的生产、重分发与下游应用留存机制
模型与 API测试Qwen、Llama、Gemma 等 10 个训练与数据层
- 模型篡改
- 微调与开源权重
摘要论文测绘了去安全开源大模型供应链，作者指出高集中度的重分发层赋能模型持久留存与部署扩散。
完整解读

已经到底了