跳到正文
10月9日 · 周五

全部论文

找到 4 篇
筛选4

攻击类型

越狱1模型篡改1

模型自身风险

拒答失当1

防御类型

模型加固1

影响

有害内容2

系统形态

模型与 API4编程 Agent0

攻击面/入口

用户输入1训练数据1

层

模型层4

系统组件

护栏与评审1监控器1推理链3微调与开源权重2视觉8音频3图像生成2嵌入1多模态13

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 648 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：编程 Agent系统组件：微调与开源权重系统组件：图像生成清除全部

另有 648 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 可解释性arXiv 2609.39625

    D-Scope：用稀疏自编码器分解与操控扩散 Transformer

    提出 D-Scope，用视觉质心检索 SAE 解码方向并转向扩散生成

    arXiv
    2609.39625
    发表
    层
    模型层
    场景
    模型与 API
    测试
    SANA-Sprint、Nitro-1-PixArt、SANA teacher 等 4 个
    摘要D-Scope 用视觉质心检索单个 SAE 方向做掩码转向，对比检索提高区域增益但不一致改善保持。

    D-Scope把扩散 Transformer 中 SAE 特征的高激活图像块，接到文本查询驱动的单方向生成干预上。

    深度解读完整解读
  2. 可解释性arXiv 2609.06934

    论文提出拒答的几何解释：事后安全训练脆弱，预训练期持续安全共训更抗攻击

    解释后验安全的权重几何脆弱性，并提出预训练持续安全共训练

    arXiv
    2609.06934
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Qwen-2.5-7B、Qwen-2.5-7B-Instruct、Llama-3-8B 等 15 个

    摘要论文将后验安全脆弱性归因于正交抑制，并提出通过预训练持续共训练实现具备微调抗性的安全防护。

    深度解读完整解读
  3. 可解释性arXiv 2609.23587

    大型推理模型的效率与安全困境：量化与剪枝如何影响越狱鲁棒性

    分析量化、剪枝与 KV 缓存压缩对推理模型越狱鲁棒性的影响

    arXiv
    2609.23587
    发表
    层
    模型层
    场景
    模型与 API
    测试
    QwQ-32B、DeepSeek-R1-Distill-Qwen-32B、DeepSeek-R1-Distill-Llama-8B 等 4 个
    摘要效率压缩常使 LRM 越狱 HR 下降，作者将其归因于推理退化而非对齐增强。

    作者分析量化、剪枝和 KV 缓存压缩如何同时改变 LRM 的显存、推理和越狱脆弱性。。

    深度解读完整解读
  4. 可解释性arXiv 2609.09909

    解读文本到图像扩散模型中的对象依赖概念脆弱性

    用逐步 SAE 诊断文生图概念脆性，并推理时向类原型插值

    arXiv
    2609.09909
    发表
    层
    模型层
    场景
    模型与 API
    测试
    SD 1.5、SD 3.5、SDXL 等 5 个
    摘要逐步 SAE 诊断物体依赖的概念脆性，早期向类原型插值可在五骨干上提高风格与属性指标。

    作者用逐步稀疏自编码器审计文生图扩散模型里随物体变化的概念脆性，并用推理时原型插值检验该诊断。。

    深度解读完整解读
已经到底了