跳到正文
10月9日 · 周五

可解释性 · 论文

找到 4 篇
筛选6

攻击类型

恶意使用1

防御类型

推理时干预1

影响

有害内容1

系统形态

模型与 API4LLM 应用1AI Agent0编程 Agent0网页与电脑操作0

攻击面/入口

用户输入1

层

模型层4

系统组件

护栏与评审3监控器12推理链7微调与开源权重2视觉10音频4图像生成3嵌入1多模态17

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 58 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：AI Agent系统形态：编程 Agent系统形态：网页与电脑操作系统组件：图像生成系统组件：嵌入话题：可解释性清除全部

另有 58 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 可解释性arXiv 2609.39625

    D-Scope：用稀疏自编码器分解与操控扩散 Transformer

    提出 D-Scope，用视觉质心检索 SAE 解码方向并转向扩散生成

    arXiv
    2609.39625
    发表
    层
    模型层
    场景
    模型与 API
    测试
    SANA-Sprint、Nitro-1-PixArt、SANA teacher 等 4 个
    摘要D-Scope 用视觉质心检索单个 SAE 方向做掩码转向，对比检索提高区域增益但不一致改善保持。

    D-Scope把扩散 Transformer 中 SAE 特征的高激活图像块，接到文本查询驱动的单方向生成干预上。

    深度解读完整解读
  2. 防御arXiv 2609.03629

    EraseSAE：用稀疏自编码器在文生视频扩散模型中实现精准概念擦除

    提出 EraseSAE，在文生视频模型中局部擦除指定概念

    arXiv
    2609.03629
    发表
    层
    模型层
    场景
    模型与 API
    测试
    CogVideoX-5B、HunyuanVideo、Flux.1 [dev]
    摘要EraseSAE 用单义特征局部擦除。

    EraseSAE 把 SAE 用于 DiT 文生视频模型的概念擦除。作者要解决的是：全局改权重或表面负提示对不齐细粒度、分布式的概念，而且会改到无关时空区域。

    深度解读完整解读
  3. 可解释性arXiv 2609.09575

    MonoTM：用可解释单义特征做主题建模，超越关键词表示

    提出 MonoTM，用 SAE 单义特征估计文档主题混合并生成主题描述

    arXiv
    2609.09575
    发表
    层
    模型层
    场景
    模型与 API
    测试
    llama-embed-nemotron-8b、Gemma-3-27B-IT、Gemma-3-12B-IT
    摘要MonoTM 分开估计混合与解释主题，三套基准上二者偏好的 SAE 配置不同。

    MonoTM 是建在文档嵌入 SAE 上的可解释主题模型：混合估计用全部 SAE 特征，主题描述只用另一套配置里通过验证的语义特征。

    深度解读完整解读
  4. 可解释性arXiv 2609.09909

    解读文本到图像扩散模型中的对象依赖概念脆弱性

    用逐步 SAE 诊断文生图概念脆性，并推理时向类原型插值

    arXiv
    2609.09909
    发表
    层
    模型层
    场景
    模型与 API
    测试
    SD 1.5、SD 3.5、SDXL 等 5 个
    摘要逐步 SAE 诊断物体依赖的概念脆性，早期向类原型插值可在五骨干上提高风格与属性指标。

    作者用逐步稀疏自编码器审计文生图扩散模型里随物体变化的概念脆性，并用推理时原型插值检验该诊断。。

    深度解读完整解读
已经到底了