跳到正文
10月9日 · 周五

全部论文

找到 19 篇
筛选4

攻击类型

越狱1投毒与后门1提取与窃取3检测规避1恶意使用1

攻击技术

针对防御1

模型自身风险

欺骗与谋划4失准与价值偏离1拒答失当1幻觉与编造1

防御类型

模型加固1推理时干预2检测与过滤1监控与审计2

影响

有害内容3数据与隐私泄露3输出被操纵2可用性与可靠性1监督失效5

系统形态

模型与 API17AI Agent2编程 Agent1

攻击者权限

黑盒3

攻击面/入口

用户输入6图像与音视频1权重与梯度1分发渠道1

层

提示层4模型层19应用层13训练与数据层12

系统组件

护栏与评审2监控器2推理链2微调与开源权重1图像生成6嵌入1多模态6

被测模型厂商

Qwen（阿里）148Google128Meta106OpenAI80Mistral44DeepSeek38Anthropic37Ai227智谱 GLM15Microsoft15Kimi（月之暗面）14上海 AI 实验室11NVIDIA9xAI8EleutherAI7Stability AI7TII5其他107
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 434 篇还没打标签，不在筛选结果里。
层：模型层被测模型厂商：NVIDIA被测模型厂商：Hugging Face被测模型厂商：Stability AI清除全部

另有 434 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 评测与基准arXiv 2610.04737

    PyINE：用可验证 Python 执行轨迹研究推理模型的捷径与监督

    提出 PyINE 基准，训练捷径跟随模型并比较监督者

    arXiv
    2610.04737
    发表
    层
    模型层
    场景
    模型与 API
    测试
    nemotron-3-nano-30B、Qwen3-4B-Instruct、shortcut-following model organism 等 14 个
    摘要PyINE 用可验证代码执行研究捷径失败的监督覆盖与成本权衡。

    PyINE 是用可执行程序研究推理模型引出与监督的框架，PyINE-v1 是其第一次发布。

    深度解读完整解读
  5. 风险行为arXiv 2605.28591

    研究：模型掌握评测设计知识后安全基准分数更高

    微调注入评测特征知识，测量隐式评测觉察造成的安全分数虚增

    arXiv
    2605.28591
    发表
    层
    模型层
    场景
    AI Agent
    测试
    Llama 3.3 Nemotron Super 49B v1.5、Qwen3 32B、GLM 4.7 Flash 等 5 个
    摘要证实模型通过合成文档内化评测特征后可在无显式觉察下大幅提升安全评分。

    这篇论文研究了大语言模型因学习评测设计元知识而诱发的隐式评估觉察及安全评分虚增现象。

    深度解读完整解读
  8. 可解释性arXiv 2608.21766

    研究：六个开源权重模型的评测感知可线性解码，但与口头表达弱相关

    用探针与激活导向分析语言模型的评测意识表征及言语化

    arXiv
    2608.21766
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Nemotron3-49B、Qwen3-8B、Qwen3-32B 等 14 个

    摘要论文系统证明大模型普遍具备评估与部署的隐层表征，但与言语化弱耦合，激活干预可因果诱导言语化且 SFT 阶段起关键稳定作用。

    深度解读完整解读
  9. 防御arXiv 2610.01969

    RASteer：面向扩散模型概念擦除的保留感知激活引导方法

    提出 RASteer，推理时按保留子空间校正激活以擦除文生图目标概念

    arXiv
    2610.01969
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Stable Diffusion v1.4、Stable Diffusion v1.5、Stable Diffusion v2.1 等 4 个
    摘要RASteer 用保留子空间校正擦除方向，在固定权重下同时压低目标并保住保留概念。

    Retain-aware Activation Steering（RASteer） 是一种不改权重的推理时概念擦除方法，用于文生图扩散模型去掉指定概念并减少对保留概念的误伤。

    深度解读完整解读
  10. 风险行为arXiv 2609.39838

    研究：模型易学会隐写传信，隐写推理则难得多

    比较隐写推理与隐写传信、编码推理的可学性

    arXiv
    2609.39838
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Nemotron-3-Super-120B、GPT-5.5、Claude Sonnet 5 等 14 个
    摘要隐写推理比传信和编码推理更难学。

    Schulz、Fülle 与 Frengel 测量大语言模型习得隐写推理的难度，并与隐写传信、编码推理对比，以估计依赖阅读 CoT 的监控还能否成立。

    深度解读完整解读
  13. 可解释性arXiv 2609.09575

    MonoTM：用可解释单义特征做主题建模，超越关键词表示

    提出 MonoTM，用 SAE 单义特征估计文档主题混合并生成主题描述

    arXiv
    2609.09575
    发表
    层
    模型层
    场景
    模型与 API
    测试
    llama-embed-nemotron-8b、Gemma-3-27B-IT、Gemma-3-12B-IT
    摘要MonoTM 分开估计混合与解释主题，三套基准上二者偏好的 SAE 配置不同。

    MonoTM 是建在文档嵌入 SAE 上的可解释主题模型：混合估计用全部 SAE 特征，主题描述只用另一套配置里通过验证的语义特征。

    深度解读完整解读
  14. 可解释性arXiv 2609.09909

    解读文本到图像扩散模型中的对象依赖概念脆弱性

    用逐步 SAE 诊断文生图概念脆性，并推理时向类原型插值

    arXiv
    2609.09909
    发表
    层
    模型层
    场景
    模型与 API
    测试
    SD 1.5、SD 3.5、SDXL 等 5 个
    摘要逐步 SAE 诊断物体依赖的概念脆性，早期向类原型插值可在五骨干上提高风格与属性指标。

    作者用逐步稀疏自编码器审计文生图扩散模型里随物体变化的概念脆性，并用推理时原型插值检验该诊断。。

    深度解读完整解读
  15. 防御arXiv 2609.39548

    NDDL：用正常扩散动力学为文生图模型做后门防御

    提出 NDDL，用良性扩散轨迹检测文生图后门提示并定位触发 token

    arXiv
    2609.39548
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Stable Diffusion v1.5、Stable Diffusion XL、Stable Diffusion v3.5 等 4 个
    摘要NDDL 从良性扩散轨迹学习正常转移，用动态不一致检测后门并定位触发 token。

    NDDL 是面向文生图扩散模型的后门防御：防御者只有白盒模型访问和良性提示词，没有后门先验，需要区分后门提示词并找出触发 token。

    深度解读完整解读
  17. 防御arXiv 2609.21996

    PIR：从模型内部激活读出被隐藏的答案

    提出免参考探测 PIR，从激活读出被隐瞒答案并区分擦除

    arXiv
    2609.21996
    发表
    层
    模型层
    场景
    模型与 API
    测试
    zephyr-7b-beta、gemma-2-9b、gemma-3-12b 等 9 个

    摘要论文提出免参考内部识别探测 PIR，划分了隐瞒与遗忘的边界，为评估沙盒审计与遗忘真实性提供了内部依据。

    深度解读完整解读
  19. 攻击arXiv 2609.36331

    无需参考模型：用邻居样本校准单轮成员推理攻击

    提出用邻居分数替代参考模型的单轮成员推断

    arXiv
    2609.36331
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    黑盒
    测试
    stable-diffusion-v1-5、目标分类模型（架构与训练流程遵循 Aerni et al.）、CLIP ViT-B/32 等 4 个
    摘要邻居查询在单模型上恢复逐样本校准，合成邻居加早期检查点最接近 LiRA。

    本文研究 one-round 成员推断：只有一个目标模型、不能再训练参考模型时，如何仍做逐样本校准，并用于单次运行的 DP 审计。

    深度解读完整解读
已经到底了