跳到正文
10月13日 · 周二

全部论文

找到 7篇
筛选3

系统形态

攻击面/入口

层

同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 215篇还没打标签,不在筛选结果里。

另有215篇论文还没打上分类标签,暂不在筛选结果里。

  1. 可解释性arXiv 2610.13078

    注意力看见,MLP 拒绝:追踪 LLM 中从注意力到 MLP 的安全路径

    追踪注意力识别有害性到 MLP 拒绝写入的通路并提出 Sentinel

    发表
    被测模型
    Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct、Qwen3-8B-Instruct 等18个
    摘要注意力更新更易读出有害性,MLP 更新写入拒绝,Sentinel 用两路信号路由提醒。

    作者把对齐模型的越狱和过度拒绝,改写成残差流上从识别到写入的通路问题,并据此做解码前的条件提醒。

    深度解读完整解读
  2. 可解释性arXiv 2609.23587

    大型推理模型的效率与安全困境:量化与剪枝如何影响越狱鲁棒性

    分析量化、剪枝与 KV 缓存压缩对推理模型越狱鲁棒性的影响

    发表
    被测模型
    QwQ-32B、DeepSeek-R1-Distill-Qwen-32B、DeepSeek-R1-Distill-Llama-8B
    摘要效率压缩常使 LRM 越狱 HR 下降,作者将其归因于推理退化而非对齐增强。

    作者分析量化、剪枝和 KV 缓存压缩如何同时改变 LRM 的显存、推理和越狱脆弱性。。

    深度解读完整解读
  3. 可解释性arXiv 2609.04721

    研究:拒答方向可跨架构迁移,安全工具可按写入位置重新估计

    在写入点定位拒答方向,经刚性旋转跨架构迁移并门控放大

    发表
    被测模型
    Falcon-Mamba-7B、Falcon3-Mamba-7B、Llama-3.1-8B 等8个
    摘要拒答方向可经刚性旋转跨架构迁移,但必须在各架构的写入点读取。

    作者研究拒答表示是否随架构改变,结论是表示共享、读取位置随架构变。

    深度解读完整解读
  4. 可解释性arXiv 2606.28153

    越狱攻击下的稳健有害特征:大语言模型注意力头功能分化的机制证据

    分析越狱下注意力头分化,解释未被消除的稳健有害特征

    发表
    被测模型
    Llama-3-8B-Instruct、Llama-2-7B-Chat、Llama-3-70B-Instruct 等8个
    摘要作者称越狱靠压制 ACH 绕过拒绝,SAH 仍留下可被免训练读出的有害特征。

    这篇工作在越狱已经绕过拒绝之后,检查注意力头是否出现功能分化,并把留下的内部激活用于免训练检测。

    深度解读完整解读
  5. 可解释性arXiv 2605.00123

    大语言模型越狱成功的最小、局部、因果解释

    提出 LOCA,沿 SAE 方向迭代激活补丁解释单次越狱成功

    发表
    被测模型
    Llama-3.1-8B-Instruct、Gemma-3-27B-IT、Gemma-2-2B-IT 等4个
    摘要LOCA 用少量 SAE 方向上的激活补丁,局部解释单次越狱为何能绕过拒答。

    LOCA 用尽量少的、可解释的中间表示变化,解释单次越狱为何能绕过拒答。

    深度解读完整解读
  6. 可解释性arXiv 2603.08234

    续写与拒答之争:大语言模型中续写触发越狱的机制分析

    分析续写触发越狱的注意力头机制并提出 HCS

    发表
    被测模型
    LLaMA-2-7B-Chat、Qwen2.5-7B-Instruct
    摘要作者称越狱来自两类头竞争,HCS 加蒸馏可把该竞争用于推理时干预。

    作者用注意力头机制分析 continuation-triggered jailbreak:同一有害指令下,把 continuation 后缀从指令后面挪到提示词边界外,模型更容易顺着后缀继续生成。

    深度解读完整解读
已经到底了