Skip to content

Translation in progress Some entries still include text in the original language.

Oct 13 · Tuesday

All papers

Found 15 papers
Filter5

Attack type

Jailbreaks17Poisoning and backdoors39Model tampering15Extraction and theft19Detection evasion8

Defense type

Model hardening10

Impact

Harmful content11

System type

Models and APIs15coding agent0science agent0

Attacker access

White-box7

Attack surface / entry point

Training data12Weights and gradients10

Layer

Model layer18Training and data layer15

System component

Fine-tuning and open weights14
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 227papers have no tags yet and are not included in filtered results.
Attack type：Model tamperingSystem type：Models and APIsSystem type：coding agentSystem type：science agentLayer：Training and data layerClear all

Another 227papers do not have category tags yet and are not included in filtered results.

  1. DefensesarXiv 2610.10345

    SLDR：通过选择性层恢复与动态路由防御恶意微调

    提出 SLDR，用选择性层恢复与动态路由防御恶意微调

    arXiv
    2610.10345
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Attacker
    Black-box
    Evaluated models
    Llama3.1-8B-Instruct, Llama3-8B-Instruct, Qwen2.5-7B-Instruct and others4
    Abstract作者称 SLDR 能压低有害输出并保持下游效用。

    SLDR 是针对恶意微调的微调后防御：在已对齐模型上做有符号层探测，只在敏感分数最大与最小的两层训练 LoRA，再用 lmax 的最后 token 表示决定是否启用适配器。

    Paper analysisRead analysis
  2. Analysis and theoryarXiv 2610.09004

    研究：去除有害信息不足以证明开源权重模型的抗篡改能力

    论证发布时互信息不能认证开源权重抗微调恢复

    arXiv
    2610.09004
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Evaluated models
    EleutherAI/deep-ignorance-e2e-strong-filter, EleutherAI/deep-ignorance-unfiltered, Google BERT-Tiny and others6
    Abstract作者称零信息仍可一步恢复，表观抗微调可来自参数化。

    作者研究开源权重模型的篡改抵抗：发布时的互信息是否足以保证微调恢复很慢。

    Paper analysisRead analysis
  3. InterpretabilityarXiv 2610.07518

    TRACE：仅凭 checkpoint 更新审计大语言模型有害目标

    提出 TRACE，仅凭检查点更新审计有害合规微调目标

    arXiv
    2610.07518
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Evaluated models
    Llama-3.1-8B-Instruct, Mistral-7B-Instruct-v0.3, Qwen3-8B and others6
    Abstract作者称有害合规 SFT 在检查点更新中留下可排序坐标，并据此做只读权重审计。

    作者在检查点更新里寻找有害合规 SFT 的目标组成，并把读数做成不查询模型、不看未知训练数据的审计分 TRACE。

    Paper analysisRead analysis
  4. DefensesarXiv 2609.39866

    研究者提出梯度封堵实现 LLM 发布前的预防性遗忘

    提出 GSU 在发布前封堵敏感门梯度，抵抗下游微调获取禁止能力

    arXiv
    2609.39866
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Attacker
    White-box
    Evaluated models
    Llama-3.2-1B, Llama-3.2-3B, Llama-3.1-8B and others7
    AbstractGSU 在发布前封堵 SiLU 门的获取梯度，并在 TOFU 与 WMDP 上降低下游微调得分。

    Gradient-Sealed Unlearning（GSU）是一种发布前的 preemptive unlearning：不删除模型里已经有的能力，而是让指定禁止域能力更难被发布后的微调获取。

    Paper analysisRead analysis
  5. DefensesarXiv 2609.39279

    FDCU：用双重约束子空间投影抵御机器遗忘后的重训练攻击

    提出 FDCU 双约束子空间投影遗忘，抵御再训练恢复有害知识

    arXiv
    2609.39279
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Evaluated models
    Qwen2.5-3B, Llama-3-8B-Instruct, Qwen-3-8B
    AbstractFDCU 用双掩码限制浅层抑制，在知识擦除与安全输出上提高再训练后的稳定性。

    FDCU 是一种约束参数更新的遗忘方法，用来降低再训练把已抑制恶意行为重新引出的可能。

    Paper analysisRead analysis
  6. DefensesarXiv 2609.38909

    Purdue 提出 Pact：将欺骗作为行为遗忘

    提出 PACT，遗忘推理模型在压力下的欺骗行为并保留上下文理解

    arXiv
    2609.38909
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Attacker
    White-box
    Evaluated models
    DeepSeek-R1-Distill-Qwen-32B, QwQ-32B

    Abstract论文将大模型欺骗形式化为上下文条件行为，提出 PACT 框架在消除欺骗的同时保留了上下文遵循能力。

    Paper analysisRead analysis
  7. DefensesarXiv 2609.36862

    VaccineBooster：面向有害微调对齐的混合扰动防御

    提出 VaccineBooster，在对齐阶段混合嵌入扰动与梯度衰减抵御有害微调

    arXiv
    2609.36862
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Evaluated models
    Llama-2-7B
    AbstractVaccineBooster 把两种对齐阶段扰动合在一步里，内容更安全但拒答保留更少。

    VaccineBooster 是一种对齐阶段防御：在提供方还看得到训练过程、还没接触用户微调数据时，把嵌入扰动和权重级梯度衰减合成同一次更新，用来应对之后不受信任的微调。有害微调可以只混入少量有害指令-回答对，就削弱拒答并提高有害输出的可能，任务效用却仍然好看。过滤会漏掉隐蔽样本，事后修复又往往不知道该修哪里。

    Paper analysisRead analysis
  8. DefensesarXiv 2610.00320

    研究显示少样本微调可绕过安全层局部冻结与修复防御

    检验层冻结与奇异方向截断能否挡住少样本有害微调

    arXiv
    2610.00320
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Attacker
    White-box
    Evaluated models
    Llama-3.1-8B-Instruct, Llama-3.1-Tulu-3-8B-DPO, OLMo-2-1124-7B-Instruct and others10
    Abstract定位与恢复可以复现，但知情攻击能把损伤移出冻结带，并打败跨检查点的截断修复。

    这篇工作检验：把拒答定位到某些层或更新方向之后，能不能在攻击者知情时还守住拒答。。

    Paper analysisRead analysis
  10. OtherarXiv 2609.05241

    10a Labs 测绘无审查开源模型生态：3,471 个原始模型与 8,164 次再分发

    梳理去护栏开源模型的生产、再分发与部署供应链

    arXiv
    2609.05241
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Abstract这是一份去护栏模型供应链调查，作者将再分发层视为持续供给和下游部署的连接点。

    10a Labs 调查的是去护栏模型的公开供应链，而非去护栏技术的效果排行榜。作者关注安全行为被移除后，模型如何继续被复制、转换并接入应用。

    Paper analysisRead analysis
  11. DefensesarXiv 2609.02293

    SEAL：通过共享专家对齐强化 MoE 全局安全

    提出 SEAL，在 MoE 共享专家上做 DPO-LoRA 对齐以抵御越狱与权重篡改

    arXiv
    2609.02293
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Attacker
    White-box, Black-box
    Evaluated models
    Qwen1.5-MoE-A2.7B, DeepSeekMoE-16B, GLM-4.7-Flash and others4
    AbstractSEAL 把 DPO-LoRA 限制在混合 MoE 共享专家上，SEAL++再保护已有安全神经元方向。

    SEAL是面向混合 MoE 的训练时防御：只对齐始终执行的共享专家，使安全不依赖路由器是否把 token 送到安全专家。

    Paper analysisRead analysis
  12. DefensesarXiv 2608.05045

    Gradient Immunity 提出 USG：在开放权重发布时阻断恶意微调梯度

    提出 USG，在部分保护开源权重发布时阻断有害微调梯度

    arXiv
    2608.05045
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Attacker
    White-box
    Evaluated models
    Qwen3-14B（表中作 Qwen-14B）, Llama-3.1-8B（表中作 Llama-8B）
    AbstractUSG 在 PPOW 下用零空间立方层阻断有害微调梯度。

    Unidirectional Safety Gate 是面向 PPOW 发布设定的发布时防护：大部分权重仍可训练，一小部分安全关键组件由提供者侧加固保留，下游不必配合额外安全流程。。

    Paper analysisRead analysis
  13. Evaluation and benchmarksarXiv 2605.14605

    Study: malicious fine-tuning defenses fail under continued training, harmfulness rises across all 72 defense trajectories

    用代价曲线评估恶意微调防御在持续训练下的衰减

    arXiv
    2605.14605
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Evaluated models
    Llama-2-7B-chat, Qwen3-8B, Llama-3.1-8B-Instruct and others8

    Abstract论文指出恶意微调防御在持续训练下均会衰减，表明基于有限攻击者假设的防御无法为开源模型提供持久保护。

    Paper analysisRead analysis
You have reached the end