10月8日 · 周四

开源模型安全 · 论文

找到 2 篇

筛选1

攻击类型

模型自身风险

拒答失当2 偏见与歧视1

防御类型

影响

有害内容1 输出被操纵1

系统形态

攻击者权限

攻击面/入口

层

提示层2 模型层2

系统组件

微调与开源权重1 视觉1 多模态1

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。

层：模型层话题：开源模型安全清除全部

评测与基准arXiv:2608.08542 · 8月9日
SkillSafe-Bench：技能合并模型静态安全无法预测自适应越狱鲁棒性
评测技能合并模型的自适应越狱鲁棒性，并提出子空间投影防御
测试
Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Mistral-7B-Instruct-v0.3 等 6 个模型层
场景
模型与 API攻击者白盒
摘要论文报告了技能合并大模型在静态安全与自适应越狱间的脱节，提出了评测基准与无数据子空间投影修复方法。
本研究针对开源语言模型技能合并过程中的安全评估盲区，系统评测并刻画了合并大模型在自适应越狱攻击下的脆弱性特征。
完整解读
评测与基准arXiv:2608.11816 · 8月12日
研究审计 9 个视觉语言模型：中文提示下国家立场改写率约为英文的三倍
审计视觉语言模型在敏感图像上从拒答转向国家立场重构的行为
测试
Qwen2-VL-7B、Qwen2.5-VL-7B、Qwen3-VL-8B 等 9 个模型层
场景
模型与 API
摘要论文系统审计了VLM多模态审查，发现审查正从显式拒答转向隐蔽重构，且中文提示与文本先验会放大重构倾向。
论文系统研究了中外开源视觉语言模型在政治敏感图像上的审查行为，主要内容如下：
完整解读

已经到底了