跳到正文
10月9日 · 周五

全部论文

找到 11 篇
筛选5

攻击类型

越狱1投毒与后门1提取与窃取2检测规避1

攻击技术

针对防御1

模型自身风险

欺骗与谋划2失准与价值偏离1

防御类型

模型加固1推理时干预2监控与审计1

影响

有害内容2数据与隐私泄露2输出被操纵2监督失效1

系统形态

模型与 API11AI Agent1编程 Agent0

攻击者权限

黑盒3

攻击面/入口

用户输入4图像与音视频1权重与梯度1分发渠道1

层

提示层4模型层11应用层2训练与数据层5

系统组件

推理链1微调与开源权重1图像生成5嵌入1多模态5

被测模型厂商

Qwen（阿里）110Google99Meta86OpenAI60Mistral34Anthropic26DeepSeek25Ai221Kimi（月之暗面）12智谱 GLM9上海 AI 实验室9Microsoft8EleutherAI7Stability AI6NVIDIA5TII5其他87
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 608 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：编程 Agent层：模型层被测模型厂商：NVIDIA被测模型厂商：Stability AI清除全部

另有 608 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 可解释性arXiv 2608.21766

    研究：六个开源权重模型的评测感知可线性解码，但与口头表达弱相关

    用探针与激活导向分析语言模型的评测意识表征及言语化

    arXiv
    2608.21766
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Nemotron3-49B、Qwen3-8B、Qwen3-32B 等 14 个

    摘要论文系统证明大模型普遍具备评估与部署的隐层表征，但与言语化弱耦合，激活干预可因果诱导言语化且 SFT 阶段起关键稳定作用。

    深度解读完整解读
  2. 防御arXiv 2610.01969

    RASteer：面向扩散模型概念擦除的保留感知激活引导方法

    提出 RASteer，推理时按保留子空间校正激活以擦除文生图目标概念

    arXiv
    2610.01969
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Stable Diffusion v1.4、Stable Diffusion v1.5、Stable Diffusion v2.1 等 4 个
    摘要RASteer 用保留子空间校正擦除方向，在固定权重下同时压低目标并保住保留概念。

    Retain-aware Activation Steering（RASteer） 是一种不改权重的推理时概念擦除方法，用于文生图扩散模型去掉指定概念并减少对保留概念的误伤。

    深度解读完整解读
  3. 风险行为arXiv 2609.39838

    研究：模型易学会隐写传信，隐写推理则难得多

    比较隐写推理与隐写传信、编码推理的可学性

    arXiv
    2609.39838
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Nemotron-3-Super-120B、GPT-5.5、Claude Sonnet 5 等 14 个
    摘要隐写推理比传信和编码推理更难学。

    Schulz、Fülle 与 Frengel 测量大语言模型习得隐写推理的难度，并与隐写传信、编码推理对比，以估计依赖阅读 CoT 的监控还能否成立。

    深度解读完整解读
  6. 可解释性arXiv 2609.09575

    MonoTM：用可解释单义特征做主题建模，超越关键词表示

    提出 MonoTM，用 SAE 单义特征估计文档主题混合并生成主题描述

    arXiv
    2609.09575
    发表
    层
    模型层
    场景
    模型与 API
    测试
    llama-embed-nemotron-8b、Gemma-3-27B-IT、Gemma-3-12B-IT
    摘要MonoTM 分开估计混合与解释主题，三套基准上二者偏好的 SAE 配置不同。

    MonoTM 是建在文档嵌入 SAE 上的可解释主题模型：混合估计用全部 SAE 特征，主题描述只用另一套配置里通过验证的语义特征。

    深度解读完整解读
  7. 可解释性arXiv 2609.09909

    解读文本到图像扩散模型中的对象依赖概念脆弱性

    用逐步 SAE 诊断文生图概念脆性，并推理时向类原型插值

    arXiv
    2609.09909
    发表
    层
    模型层
    场景
    模型与 API
    测试
    SD 1.5、SD 3.5、SDXL 等 5 个
    摘要逐步 SAE 诊断物体依赖的概念脆性，早期向类原型插值可在五骨干上提高风格与属性指标。

    作者用逐步稀疏自编码器审计文生图扩散模型里随物体变化的概念脆性，并用推理时原型插值检验该诊断。。

    深度解读完整解读
  8. 防御arXiv 2609.39548

    NDDL：用正常扩散动力学为文生图模型做后门防御

    提出 NDDL，用良性扩散轨迹检测文生图后门提示并定位触发 token

    arXiv
    2609.39548
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Stable Diffusion v1.5、Stable Diffusion XL、Stable Diffusion v3.5 等 4 个
    摘要NDDL 从良性扩散轨迹学习正常转移，用动态不一致检测后门并定位触发 token。

    NDDL 是面向文生图扩散模型的后门防御：防御者只有白盒模型访问和良性提示词，没有后门先验，需要区分后门提示词并找出触发 token。

    深度解读完整解读
  11. 攻击arXiv 2609.36331

    无需参考模型：用邻居样本校准单轮成员推理攻击

    提出用邻居分数替代参考模型的单轮成员推断

    arXiv
    2609.36331
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    黑盒
    测试
    stable-diffusion-v1-5、目标分类模型（架构与训练流程遵循 Aerni et al.）、CLIP ViT-B/32 等 4 个
    摘要邻居查询在单模型上恢复逐样本校准，合成邻居加早期检查点最接近 LiRA。

    本文研究 one-round 成员推断：只有一个目标模型、不能再训练参考模型时，如何仍做逐样本校准，并用于单次运行的 DP 审计。

    深度解读完整解读
已经到底了