Skip to content

Translation in progress Some entries still include text in the original language.

Oct 13 · Tuesday

All papers

Found 28 papers
Filter6
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 201papers have no tags yet and are not included in filtered results.

Another 201papers do not have category tags yet and are not included in filtered results.

  1. 研究:去除有害信息不足以证明开源权重模型的抗篡改能力

    论证发布时互信息不能认证开源权重抗微调恢复

    Published
    Evaluated models
    EleutherAI/deep-ignorance-e2e-strong-filter, EleutherAI/deep-ignorance-unfiltered, Google BERT-Tiny and others6
    Abstract作者称零信息仍可一步恢复,表观抗微调可来自参数化。

    作者研究开源权重模型的篡改抵抗:发布时的互信息是否足以保证微调恢复很慢。

    Paper analysisRead analysis
  2. TRACE:仅凭 checkpoint 更新审计大语言模型有害目标

    提出 TRACE,仅凭检查点更新审计有害合规微调目标

    Published
    Evaluated models
    Llama-3.1-8B-Instruct, Mistral-7B-Instruct-v0.3, Qwen3-8B and others6
    Abstract作者称有害合规 SFT 在检查点更新中留下可排序坐标,并据此做只读权重审计。

    作者在检查点更新里寻找有害合规 SFT 的目标组成,并把读数做成不查询模型、不看未知训练数据的审计分 TRACE。

    Paper analysisRead analysis
  3. AttacksarXiv 2610.05894

    研究者提出闭环偏见注入攻击

    提出闭环激活引导,在扩散语言模型去噪过程中注入定向偏见

    Published
    Attacker
    Gray-box
    Evaluated models
    LLaDA-8B-Instruct, Dream-v0-Instruct-7B, LLaDA-MoE-7B-A1B-Instruct

    Abstract通过去噪中间概率反馈动态调节残差流转向,证明扩散语言模型在推理服务栈中存在闭环偏见注入脆弱性。

    Paper analysisRead analysis
  4. AttacksarXiv 2610.03124

    研究提出 Untag 攻击框架,使开源大模型触发标签滥用检测机制失效

    提出 UNTAG,绕过开源权重模型的 trigger-tag 滥用检测

    Published
    Evaluated models
    Llama2 (7B), Llama3 (8B), Qwen2.5 (7B)
    Abstract作者用 UNTAG 评估 trigger-tag,认为其不能充当开放权重滥用检测的主要边界。

    UNTAG 是针对开放权重 LLM 上条件滥用检测 trigger-tag 的统一攻击评估:信号可以在解码期注入,也可以写进权重,但攻击者若能改输出或改已发布权重,检测可以失效。

    Paper analysisRead analysis
  5. AttacksarXiv 2610.01062

    Kernelized Activation Steering:将激活引导推广到再生核希尔伯特空间的新框架

    提出核化激活引导 KAS,在推理时自适应转向激活以诱导越狱

    Published
    Evaluated models
    Qwen2.5-7B-Instruct, Gemma-2-9B-IT, Llama-3.1-8B-Instruct and others4
    AbstractKAS 用核梯度做局部自适应转向,并在线性核下恢复 DiM。

    Kernelized Activation Steering(KAS) 把推理时的激活转向写成核空间中的优化,使更新随当前激活相对源、目标参考集的位置而变化。

    Paper analysisRead analysis
  6. DefensesarXiv 2609.39866

    Researchers propose gradient blocking to achieve preventive unlearning before LLM release

    提出 GSU 在发布前封堵敏感门梯度,抵抗下游微调获取禁止能力

    Published
    Attacker
    White-box
    Evaluated models
    Llama-3.2-1B, Llama-3.2-3B, Llama-3.1-8B and others7
    AbstractGSU 在发布前封堵 SiLU 门的获取梯度,并在 TOFU 与 WMDP 上降低下游微调得分。

    Gradient-Sealed Unlearning(GSU)是一种发布前的 preemptive unlearning:不删除模型里已经有的能力,而是让指定禁止域能力更难被发布后的微调获取。

    Paper analysisRead analysis
  7. DefensesarXiv 2609.38909

    Purdue 提出 Pact:将欺骗作为行为遗忘

    提出 PACT,遗忘推理模型在压力下的欺骗行为并保留上下文理解

    Published
    Attacker
    White-box
    Evaluated models
    DeepSeek-R1-Distill-Qwen-32B, QwQ-32B

    Abstract论文将大模型欺骗形式化为上下文条件行为,提出 PACT 框架在消除欺骗的同时保留了上下文遵循能力。

    Paper analysisRead analysis
  8. DefensesarXiv 2610.00320

    研究显示少样本微调可绕过安全层局部冻结与修复防御

    检验层冻结与奇异方向截断能否挡住少样本有害微调

    Published
    Attacker
    White-box
    Evaluated models
    Llama-3.1-8B-Instruct, Llama-3.1-Tulu-3-8B-DPO, OLMo-2-1124-7B-Instruct and others10
    Abstract定位与恢复可以复现,但知情攻击能把损伤移出冻结带,并打败跨检查点的截断修复。

    这篇工作检验:把拒答定位到某些层或更新方向之后,能不能在攻击者知情时还守住拒答。。

    Paper analysisRead analysis
  9. 论文揭示 BatchNorm 架构下机器遗忘评测的归一化伪影

    诊断 BatchNorm 架构下机器遗忘评测的归一化伪影

    Published
    Evaluated models
    ResNet-18, ResNet-50, ViT-S/16 and others4
    Abstract一次不改权重的 BN 重校准能翻转多数方法的表面遗忘,但不改变权重里的编码器泄露。

    BN illusion 是作者对近似机器遗忘评测中一种 BatchNorm 测量伪影的命名:不改权重、只用 retain 数据重算运行统计,就可以把表面遗忘准确率翻过来。

    Paper analysisRead analysis
  10. Abstract这是一份去护栏模型供应链调查,作者将再分发层视为持续供给和下游部署的连接点。

    10a Labs 调查的是去护栏模型的公开供应链,而非去护栏技术的效果排行榜。作者关注安全行为被移除后,模型如何继续被复制、转换并接入应用。

    Paper analysisRead analysis
  11. DefensesarXiv 2609.02293

    SEAL:通过共享专家对齐强化 MoE 全局安全

    提出 SEAL,在 MoE 共享专家上做 DPO-LoRA 对齐以抵御越狱与权重篡改

    Published
    Evaluated models
    Qwen1.5-MoE-A2.7B, DeepSeekMoE-16B, GLM-4.7-Flash and others4
    AbstractSEAL 把 DPO-LoRA 限制在混合 MoE 共享专家上,SEAL++再保护已有安全神经元方向。

    SEAL是面向混合 MoE 的训练时防御:只对齐始终执行的共享专家,使安全不依赖路由器是否把 token 送到安全专家。

    Paper analysisRead analysis
  12. AttacksarXiv 2608.29458

    Reference-Grafting 在提取沙袋行为隐藏能力上追平微调

    提出参考嫁接,在推理阶段用激活干预诱导沙袋隐藏能力

    Published
    Attacker
    White-box
    Evaluated models
    Qwen2.5-1.5B, Qwen2.5-3B, Qwen2.5-14B and others15

    Abstract提出参考嫁接在推理阶段以低成本匹配微调诱导效果,揭示隐瞒表征重叠与阈值门控机制。

    Paper analysisRead analysis
  13. AttacksarXiv 2608.07430

    研究者提出 SN-Guided Diffusion,利用扩散大模型安全神经元实现离线越狱

    提出 SN-Guided Diffusion,利用安全神经元实现离线越狱

    Published
    Evaluated models
    Qwen2.5-7B-Instruct, LLaDA-8B-Instruct, Dream-Instruct-7B and others15
    Abstract论文揭示了扩散语言模型对自回归安全神经元的继承性,并提出纯离线黑盒越狱框架 SN-Guided Diffusion。

    论文系统评估了扩散大语言模型(DLLM)在安全对齐中的双重角色——既作为白盒攻击目标,又作为黑盒越狱生成的对抗工具。

    Paper analysisRead analysis
  14. DefensesarXiv 2608.05578

    AMS 工具通过激活分析检测语言模型的安全训练改动

    提出 AMS,用激活分离与方向相似度检测安全训练改动

    Published
    Evaluated models
    Llama-3.1-8B-Instruct, Llama-3.2-3B-Instruct, Llama-3.2-1B-Instruct and others14
    AbstractAMS 按激活签名把安全改动分四类,前三类可由两级扫描覆盖,行为微调会漏。

    AMS 是面向开放权重模型、部署前使用的激活扫描器,用来看安全训练被拿掉或改写之后,激活空间里还留着什么几何痕迹。

    Paper analysisRead analysis
  15. DefensesarXiv 2608.05045

    Gradient Immunity 提出 USG:在开放权重发布时阻断恶意微调梯度

    提出 USG,在部分保护开源权重发布时阻断有害微调梯度

    Published
    Attacker
    White-box
    Evaluated models
    Qwen3-14B(表中作 Qwen-14B), Llama-3.1-8B(表中作 Llama-8B)
    AbstractUSG 在 PPOW 下用零空间立方层阻断有害微调梯度。

    Unidirectional Safety Gate 是面向 PPOW 发布设定的发布时防护:大部分权重仍可训练,一小部分安全关键组件由提供者侧加固保留,下游不必配合额外安全流程。。

    Paper analysisRead analysis
  16. Study: malicious fine-tuning defenses fail under continued training, harmfulness rises across all 72 defense trajectories

    用代价曲线评估恶意微调防御在持续训练下的衰减

    Published
    Evaluated models
    Llama-2-7B-chat, Qwen3-8B, Llama-3.1-8B-Instruct and others8

    Abstract论文指出恶意微调防御在持续训练下均会衰减,表明基于有限攻击者假设的防御无法为开源模型提供持久保护。

    Paper analysisRead analysis
  17. AttacksarXiv 2605.08513

    Apple 研究者发现抑制单个神经元即可绕过 LLM 安全对齐

    提出单神经元激活干预,抑制拒答神经元或放大概念神经元以绕过安全对齐

    Published
    Attacker
    White-box
    Evaluated models
    Qwen3-1.7B, Qwen3-4B, Qwen3-8B and others11

    Abstract作者称大模型安全由拒答门控与概念底座构成,干预单个神经元足以双向击穿对齐,且拒答神经元在预训练阶段已然存在。

    Paper analysisRead analysis