跳到正文
10月10日 · 周六

全部论文

找到 6 篇
筛选5

模型自身风险

欺骗与谋划14奖励作弊4失准与价值偏离3拒答失当6

影响

有害内容6

系统形态

模型与 API6网页与电脑操作0

层

模型层4

系统组件

监控器4推理链2视觉4多模态5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 194 篇还没打标签，不在筛选结果里。
模型自身风险：拒答失当系统形态：模型与 API系统形态：网页与电脑操作系统组件：监控器系统组件：推理链清除全部

另有 194 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2610.07774

    研究者提出读取路由 logits 的 MoE 视觉语言模型多模态安全检测器

    AI 导读研究者提出一种轻量级路由 logits 安全检测器，在提示词预填充阶段读取 MoE 视觉语言模型的专家路由信号，在生成前判断多模态请求是否安全，且不修改模型参数或专家路由。

    arXiv
    2610.07774
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Qwen3-VL-30B-A3B-Instruct、Kimi-VL-A3B-Instruct
    摘要读出而非操纵 router logits，可在不改模型的情况下降低两模型的组合式安全错误。

    作者在两个指令微调 MoE VLM 上比较改模型与读路由。组合式风险按 HoliSafe 分成五类：图文各自可安全，合在一起才不安全，或不安全内容只在图像里。

    深度解读完整解读
  2. 防御arXiv 2609.38645

    用探针引导微调对齐模型且不损失可监控性

    用持续更新的探针做微调，降低有害性并保持线性可监测性

    arXiv
    2609.38645
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Mistral 7B Instruct v0.1、Llama 3 8B Instruct Abliterated、Qwen3-14B
    摘要持续重拟合的探针可降低有害性、提高诚实性，训练后概念仍能被线性探针读出。

    Probe-guided fine-tuning 把探针分数当作唯一对齐信号，用来推动 harmlessness 与 honesty，并检查训练后这些概念是否仍线性可读。

    深度解读完整解读
  3. 防御arXiv 2609.05797

    论文发现安全监控器主要拦截模型本就会拒答的请求

    评估安全监视器并提出双侧梯级微调以减少会答有害请求的漏检

    arXiv
    2609.05797
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Gemma-4-31B-IT、Qwen3-32B、Llama Guard 3 8B 等 6 个

    摘要论文发现安全监视器大多拦截模型已拒答请求，指出明确度偏差是共性原因，并通过双侧梯级微调提升回答请求的召回表现。

    深度解读完整解读
  4. 可解释性arXiv 2609.04721

    研究：拒答方向可跨架构迁移，安全工具可按写入位置重新估计

    在写入点定位拒答方向，经刚性旋转跨架构迁移并门控放大

    arXiv
    2609.04721
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Falcon-Mamba-7B、Falcon3-Mamba-7B、Llama-3.1-8B 等 8 个
    摘要拒答方向可经刚性旋转跨架构迁移，但必须在各架构的写入点读取。

    作者研究拒答表示是否随架构改变，结论是表示共享、读取位置随架构变。

    深度解读完整解读
  5. 防御arXiv 2604.00012

    研究提出 SafeReAct：恢复后训练大模型被掩盖的安全机制

    提出 SafeReAct，用 LoRA 重激活后训练模型被掩盖的安全机制

    arXiv
    2604.00012
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    DeepSeek-R1-distilled LLaMA-8B、DeepSeek-R1-distilled Qwen-7B、DeepSeek-R1-distilled Qwen-14B 等 9 个
    摘要SafeReAct 用剪枝得到的安全表示做 LoRA 对齐，以恢复后训练模型被掩盖的拒绝行为。

    这篇工作针对后训练 LLM 的安全下降，提出表示对齐方法SafeReAct。

    深度解读完整解读
  6. 可解释性arXiv 2602.04856

    研究揭示推理模型拒答假新闻请求时思维链仍含不安全叙事

    分析推理模型拒答假新闻时思维链的内部安全分叉

    arXiv
    2602.04856
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Llama3-8B、Qwen3-4B、Qwen3-8B 等 5 个
    摘要拒绝不等于过程安全。

    作者对推理 LLM 在虚假新闻生成中的 CoT 做内部路由分析，并只改关键头来降低过程风险。作者称这是该场景下不安全 CoT 的首次系统分析。

    深度解读完整解读
已经到底了