跳到正文
10月8日 · 周四

开源模型安全 · 论文

找到 4 篇
筛选2

攻击类型

越狱3模型篡改4提取与窃取1

攻击技术

梯度与表征优化1

模型自身风险

欺骗与谋划1

防御类型

模型加固2推理时干预1

影响

有害内容1数据与隐私泄露1监督失效1滥用能力提升1

系统形态

模型与 API4

攻击者权限

灰盒1白盒4

攻击面/入口

用户输入1训练数据2权重与梯度4

层

模型层2训练与数据层2

系统组件

推理链1微调与开源权重3

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 68 篇还没打标签，不在筛选结果里。
攻击类型：模型篡改攻击者权限：白盒话题：开源模型安全清除全部

另有 68 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2608.05045

    Gradient Immunity 提出 USG：在开放权重发布时阻断恶意微调梯度

    提出 USG，在部分保护开源权重发布时阻断有害微调梯度

    arXiv
    2608.05045
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    白盒
    测试
    Qwen3-14B（表中作 Qwen-14B）、Llama-3.1-8B（表中作 Llama-8B）
    摘要USG 在 PPOW 下用零空间立方层阻断有害微调梯度。

    Unidirectional Safety Gate 是面向 PPOW 发布设定的发布时防护：大部分权重仍可训练，一小部分安全关键组件由提供者侧加固保留，下游不必配合额外安全流程。。

    深度解读完整解读
  3. 防御arXiv 2609.39866

    研究者提出梯度封堵实现 LLM 发布前的预防性遗忘

    提出 GSU 在发布前封堵敏感门梯度，抵抗下游微调获取禁止能力

    arXiv
    2609.39866
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    白盒
    测试
    Llama-3.2-1B、Llama-3.2-3B、Llama-3.1-8B 等 7 个
    摘要GSU 在发布前封堵 SiLU 门的获取梯度，并在 TOFU 与 WMDP 上降低下游微调得分。

    Gradient-Sealed Unlearning（GSU）是一种发布前的 preemptive unlearning：不删除模型里已经有的能力，而是让指定禁止域能力更难被发布后的微调获取。

    深度解读完整解读
  4. 攻击arXiv 2608.29458

    Reference-Grafting 在提取沙袋行为隐藏能力上追平微调

    提出参考嫁接，在推理时用激活干预诱导出沙袋隐藏的能力

    arXiv
    2608.29458
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    白盒
    测试
    Qwen2.5-1.5B、Qwen2.5-3B、Qwen2.5-14B 等 15 个

    摘要提出参考嫁接在推理阶段以低成本匹配微调诱导效果，揭示隐瞒表征重叠与阈值门控机制。

    深度解读完整解读
已经到底了