跳到正文
10月8日 · 周四

开源模型安全 · 论文

找到 3 篇
筛选1

攻击类型

越狱2

模型自身风险

拒答失当2

防御类型

模型加固1

影响

有害内容3数据与隐私泄露1输出被操纵2监督失效1

系统形态

模型与 API3

攻击者权限

白盒1

攻击面/入口

用户输入2

层

提示层1模型层2

系统组件

微调与开源权重1

被测模型厂商

其他3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 82 篇还没打标签，不在筛选结果里。
影响：有害内容话题：开源模型安全清除全部

另有 82 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 评测与基准arXiv:2608.08542 ·

    SkillSafe-Bench：技能合并模型静态安全无法预测自适应越狱鲁棒性

    评测技能合并模型的自适应越狱鲁棒性，并提出子空间投影防御

    模型与 API攻击者白盒测试Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Mistral-7B-Instruct-v0.3 等 6 个模型层
    摘要论文报告了技能合并大模型在静态安全与自适应越狱间的脱节，提出了评测基准与无数据子空间投影修复方法。

    本研究针对开源语言模型技能合并过程中的安全评估盲区，系统评测并刻画了合并大模型在自适应越狱攻击下的脆弱性特征。

    完整解读
  3. 评测与基准arXiv:2609.35902 ·

    QH-Bench：面向中国青少年内容安全的细粒度中文基准

    构建中文青少年内容安全基准 QH-Bench，评测单轮与多轮回复的安全与有用性

    模型与 API测试InternLM2.5-20B、InternLM2.5-7B、InternLM2.5-1.8B 等 13 个模型层
    摘要QH-Bench 分单轮与多轮评测中文青少年内容安全，总均分高仍不消除线下接触和关系压力上的负分。

    QH-BENCH 是面向中国社会文化情境的中文青少年内容安全基准，用单轮细粒度风险和多轮跨轮机制两条轨道，评测模型回复是否既守住安全边界又提供适合年龄的帮助。

    完整解读
已经到底了