跳到正文
10月9日 · 周五

全部论文

找到 6 篇
筛选3

模型自身风险

幻觉与编造1

影响

输出被操纵1

系统形态

模型与 API3LLM 应用1AI Agent2具身与机器人1

层

模型层5应用层1

系统组件

MCP 与技能2记忆1RAG4护栏与评审7监控器6推理链17权限与沙箱2微调与开源权重4视觉12音频3图像生成2嵌入3多模态17
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 524 篇还没打标签，不在筛选结果里。
系统组件：记忆系统组件：图像生成系统组件：嵌入清除全部

另有 524 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 分析与理论arXiv 2610.09517

    审计发现 CLIP 安全分数主要反映画面与提示词场景的相似度

    开环审计冻结视觉安全分，发现偏离主要来自场景模板与视角

    arXiv
    2610.09517
    发表
    层
    模型层
    场景
    具身与机器人
    被测模型
    CLIP ViT-B/32、CLIP ViT-L/14、Qwen2-VL-7B
    摘要论文审计了冻结 VLM 安全评分机制，指出其反映场景模板而非危险感知，为安全强化学习评估提供了严谨基准。

    本文是一项针对安全强化学习中冻结视觉语言模型（VLM）安全评分机制的实证审计研究。

    深度解读完整解读
  2. 分析与理论arXiv 2608.27924

    智能体记忆如何可靠处理不可回答问题：一项系统研究

    分析外部记忆对智能体可靠处理不可回答问题的作用

    arXiv
    2608.27924
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    DeepSeek-V3.2、Qwen3-235B-A22B-Instruct-2507、GPT-5.5
    摘要记忆能选择性提高 UAQ 的可接受回应，但跨数据集不稳定，且更依赖可迁移的行为指导。

    这份研究在同一智能体框架里检查外部记忆会不会让不可回答问题的处理更稳，以及稳来自哪一种存储内容。

    深度解读完整解读
  3. 可解释性arXiv 2609.39625

    D-Scope：用稀疏自编码器分解与操控扩散 Transformer

    提出 D-Scope，用视觉质心检索 SAE 解码方向并转向扩散生成

    arXiv
    2609.39625
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    SANA-Sprint、Nitro-1-PixArt、SANA teacher 等 4 个
    摘要D-Scope 用视觉质心检索单个 SAE 方向做掩码转向，对比检索提高区域增益但不一致改善保持。

    D-Scope把扩散 Transformer 中 SAE 特征的高激活图像块，接到文本查询驱动的单方向生成干预上。

    深度解读完整解读
  4. 可解释性arXiv 2609.06968

    通过稀疏自编码器特征追踪查询扩展效果

    用 SAE 追踪稠密检索查询扩展的潜变量并用激活转向验证

    arXiv
    2609.06968
    发表
    层
    模型层
    场景
    LLM 应用
    被测模型
    Qwen3-Embedding-0.6B（Qwen-Embed）、SimLM
    摘要SAE 追踪稠密检索 QE 的潜变量，转向在四基准上比文本扩展更稳。

    作者用稀疏自编码器分析稠密检索里的查询扩展：现成检索器不微调时，拼接扩展文本往往增益有限甚至变差，而最终指标和嵌入整体偏移不足以说明内部发生了什么。

    深度解读完整解读
  5. 可解释性arXiv 2609.09575

    MonoTM：用可解释单义特征做主题建模，超越关键词表示

    提出 MonoTM，用 SAE 单义特征估计文档主题混合并生成主题描述

    arXiv
    2609.09575
    发表
    层
    模型层
    场景
    模型与 API
    摘要MonoTM 分开估计混合与解释主题，三套基准上二者偏好的 SAE 配置不同。

    MonoTM 是建在文档嵌入 SAE 上的可解释主题模型：混合估计用全部 SAE 特征，主题描述只用另一套配置里通过验证的语义特征。

    深度解读完整解读
  6. 可解释性arXiv 2609.09909

    解读文本到图像扩散模型中的对象依赖概念脆弱性

    用逐步 SAE 诊断文生图概念脆性，并推理时向类原型插值

    arXiv
    2609.09909
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    SD 1.5、SD 3.5、SDXL 等 5 个
    摘要逐步 SAE 诊断物体依赖的概念脆性，早期向类原型插值可在五骨干上提高风格与属性指标。

    作者用逐步稀疏自编码器审计文生图扩散模型里随物体变化的概念脆性，并用推理时原型插值检验该诊断。。

    深度解读完整解读
已经到底了