10月9日 · 周五

开源模型安全 · 论文

找到 2 篇

筛选3

攻击类型

越狱2 投毒与后门7 模型篡改5 提取与窃取2

防御类型

模型加固1 推理时干预1

影响

数据与隐私泄露2

系统形态

攻击者权限

黑盒1 白盒1

攻击面/入口

用户输入2 权重与梯度1

层

系统组件

推理链1 微调与开源权重1 图像生成1 多模态1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 62 篇还没打标签，不在筛选结果里。

攻击类型：提取与窃取系统组件：微调与开源权重系统组件：多模态话题：开源模型安全清除全部

另有 62 篇论文还没打上分类标签，暂不在筛选结果里。

防御arXiv 2609.162299月15日
ARIA：用稀疏自编码器实现测试时机器遗忘
提出 ARIA，在冻结权重上用 SAE 做推理时遗忘门控
arXiv
2609.16229
发表
9月15日
层
模型层
场景
模型与 API
攻击者
白盒
测试
DeepSeek-R1-Distill-Qwen-1.5B、Gemma-3-1B-it
- 防御推理时干预
- 攻击提取与窃取
- 组件推理链
深度解读完整解读
防御arXiv 2609.157999月15日
RAPID：面向文生图服务的实时防未授权蒸馏防御
提出 RAPID，离线把抗蒸馏扰动写入文生图解码器
arXiv
2609.15799
发表
9月15日
层
模型层
场景
模型与 API
攻击者
黑盒
测试
PixArt、SSD、SDXL 等 4 个
- 防御模型加固
- 攻击提取与窃取
- 组件图像生成
深度解读完整解读

已经到底了