跳到正文
10月9日 · 周五

全部论文

找到 5 篇
筛选7

攻击类型

越狱4

防御类型

监控与审计4

影响

有害内容5

系统形态

模型与 API5

攻击面/入口

用户输入4训练数据0权重与梯度1

层

模型层5应用层21

系统组件

记忆0监控器5推理链5微调与开源权重7图像生成5嵌入0多模态9
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 547 篇还没打标签，不在筛选结果里。
攻击面/入口：用户输入攻击面/入口：训练数据攻击面/入口：权重与梯度层：模型层系统组件：记忆系统组件：监控器系统组件：嵌入清除全部

另有 547 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.30841

    为何扩散语言模型的越狱会成功：能量景观分析

    用能量势垒信号检测扩散语言模型的越狱

    arXiv
    2609.30841
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    LLaDA-8B-Instruct、LLaDA-1.5、Dream-v0-Instruct-7B 等 4 个
    摘要能量势垒把 dLLM 越狱分成掩盖初始状态或中途越垒，三个 logit 信号据此互补检测。

    Bach 等提出用去噪能量景观解释 masked diffusion 语言模型上的越狱，并由此得到三个免训练检测信号。。

    深度解读完整解读
  4. 可解释性arXiv 2609.04721

    研究：拒答方向可跨架构迁移，安全工具可按写入位置重新估计

    在写入点定位拒答方向，经刚性旋转跨架构迁移并门控放大

    arXiv
    2609.04721
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Falcon-Mamba-7B、Falcon3-Mamba-7B、Llama-3.1-8B 等 8 个
    摘要拒答方向可经刚性旋转跨架构迁移，但必须在各架构的写入点读取。

    作者研究拒答表示是否随架构改变，结论是表示共享、读取位置随架构变。

    深度解读完整解读
  5. 防御arXiv 2608.05578

    AMS 工具通过激活分析检测语言模型的安全训练改动

    提出 AMS，用激活分离与方向相似度检测安全训练改动

    arXiv
    2608.05578
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Llama-3.1-8B-Instruct、Llama-3.2-3B-Instruct、Llama-3.2-1B-Instruct 等 14 个
    摘要AMS 按激活签名把安全改动分四类，前三类可由两级扫描覆盖，行为微调会漏。

    AMS 是面向开放权重模型、部署前使用的激活扫描器，用来看安全训练被拿掉或改写之后，激活空间里还留着什么几何痕迹。

    深度解读完整解读
已经到底了