跳到正文
10月9日 · 周五

可解释性 · 论文

找到 3 篇
筛选4

攻击类型

恶意使用1

防御类型

推理时干预1

影响

有害内容1

系统形态

模型与 API3编程 Agent0网页与电脑操作0

攻击面/入口

用户输入1

层

模型层3

系统组件

护栏与评审2监控器10推理链7微调与开源权重2视觉8音频4图像生成3嵌入1多模态15

被测模型厂商

其他3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 62 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：编程 Agent系统形态：网页与电脑操作系统组件：图像生成话题：可解释性清除全部

另有 62 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 可解释性arXiv 2609.39625

    D-Scope：用稀疏自编码器分解与操控扩散 Transformer

    提出 D-Scope，用视觉质心检索 SAE 解码方向并转向扩散生成

    arXiv
    2609.39625
    发表
    层
    模型层
    场景
    模型与 API
    测试
    SANA-Sprint、Nitro-1-PixArt、SANA teacher 等 4 个
    摘要D-Scope 用视觉质心检索单个 SAE 方向做掩码转向，对比检索提高区域增益但不一致改善保持。

    D-Scope把扩散 Transformer 中 SAE 特征的高激活图像块，接到文本查询驱动的单方向生成干预上。

    深度解读完整解读
  2. 防御arXiv 2609.03629

    EraseSAE：用稀疏自编码器在文生视频扩散模型中实现精准概念擦除

    提出 EraseSAE，在文生视频模型中局部擦除指定概念

    arXiv
    2609.03629
    发表
    层
    模型层
    场景
    模型与 API
    测试
    CogVideoX-5B、HunyuanVideo、Flux.1 [dev]
    摘要EraseSAE 用单义特征局部擦除。

    EraseSAE 把 SAE 用于 DiT 文生视频模型的概念擦除。作者要解决的是：全局改权重或表面负提示对不齐细粒度、分布式的概念，而且会改到无关时空区域。

    深度解读完整解读
  3. 可解释性arXiv 2609.09909

    解读文本到图像扩散模型中的对象依赖概念脆弱性

    用逐步 SAE 诊断文生图概念脆性，并推理时向类原型插值

    arXiv
    2609.09909
    发表
    层
    模型层
    场景
    模型与 API
    测试
    SD 1.5、SD 3.5、SDXL 等 5 个
    摘要逐步 SAE 诊断物体依赖的概念脆性，早期向类原型插值可在五骨干上提高风格与属性指标。

    作者用逐步稀疏自编码器审计文生图扩散模型里随物体变化的概念脆性，并用推理时原型插值检验该诊断。。

    深度解读完整解读
已经到底了