10月8日 · 周四

开源模型安全 · 论文

找到 2 篇

筛选2

攻击类型

越狱2 提取与窃取0

模型自身风险

防御类型

影响

系统形态

攻击者权限

攻击面/入口

层

提示层1 模型层1

系统组件

微调与开源权重1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 90 篇还没打标签，不在筛选结果里。

攻击类型：越狱攻击类型：提取与窃取话题：开源模型安全清除全部

另有 90 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2610.02827 · 10月2日
MLCommons 发布 Jailbreak Benchmark v1.0
构建 MLCommons 越狱基准以测量模型的单轮越狱韧性
模型与 API测试Gemma 3N E4B Instruct、LFM2-24B-A2B、Qwen 2.5 7B Instruct Turbo 等 8 个提示层
- 越狱
摘要论文建立了单轮越狱评测的标准化端到端方法学体系，揭示了开源大模型在对抗提示词下的安全性能降级与大模型负差距现象。
完整解读
评测与基准arXiv:2608.08542 · 8月9日
SkillSafe-Bench：技能合并模型静态安全无法预测自适应越狱鲁棒性
评测技能合并模型的自适应越狱鲁棒性，并提出子空间投影防御
模型与 API攻击者白盒测试Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Mistral-7B-Instruct-v0.3 等 6 个模型层
摘要论文报告了技能合并大模型在静态安全与自适应越狱间的脱节，提出了评测基准与无数据子空间投影修复方法。
本研究针对开源语言模型技能合并过程中的安全评估盲区，系统评测并刻画了合并大模型在自适应越狱攻击下的脆弱性特征。
完整解读

已经到底了