跳到正文
10月12日 · 周一

全部论文

找到 11篇
筛选3
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 233篇还没打标签,不在筛选结果里。

另有233篇论文还没打上分类标签,暂不在筛选结果里。

  1. 可解释性arXiv 2610.13078

    注意力看见,MLP 拒绝:追踪 LLM 中从注意力到 MLP 的安全路径

    追踪注意力识别有害性到 MLP 拒绝写入的通路并提出 Sentinel

    发表
    被测模型
    Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct、Qwen3-8B-Instruct 等18个
    摘要注意力更新更易读出有害性,MLP 更新写入拒绝,Sentinel 用两路信号路由提醒。

    作者把对齐模型的越狱和过度拒绝,改写成残差流上从识别到写入的通路问题,并据此做解码前的条件提醒。

    深度解读完整解读
  2. 可解释性arXiv 2610.12361

    研究:法律推理模型引用法条不等于依据法条

    用依据置换与隐层追踪审计法律思维链是否真正依赖所引法条

    发表
    被测模型
    Qwen3-8B、Qwen3-14B、Llama-3.1-8B 等7个
    摘要作者通过依据置换反事实与内部承诺追踪发现法律 CoT 裁决对依据依赖度有限,且易受提示注入操纵。

    本研究针对法律领域大语言模型思维链推理中引用法律依据的因果真实性展开实证审计。

    深度解读完整解读
  3. 可解释性arXiv 2609.37737

    研究用因果激活修补定位模型服从提示注入指令的决策层

    用因果激活修补定位模型服从提示注入的决策层

    发表
    被测模型
    Qwen3-4B、Qwen3-14B、Qwen3-32B 等7个
    摘要合规的因果杠杆集中在网络后三分之一的低秩子空间,该层也是混淆下检测最好的位置。

    这篇工作用逐层激活修补定位提示注入合规发生在网络何处,并把该位置用于检测验证。。

    深度解读完整解读
  4. 可解释性arXiv 2609.23587

    大型推理模型的效率与安全困境:量化与剪枝如何影响越狱鲁棒性

    分析量化、剪枝与 KV 缓存压缩对推理模型越狱鲁棒性的影响

    发表
    被测模型
    QwQ-32B、DeepSeek-R1-Distill-Qwen-32B、DeepSeek-R1-Distill-Llama-8B
    摘要效率压缩常使 LRM 越狱 HR 下降,作者将其归因于推理退化而非对齐增强。

    作者分析量化、剪枝和 KV 缓存压缩如何同时改变 LRM 的显存、推理和越狱脆弱性。。

    深度解读完整解读
  5. 可解释性arXiv 2609.11780

    用权重谱密度预测隐私泄露:WeightWatcher 谱指标可作为成员推理攻击脆弱性的代理

    检验权重谱度量能否代理成员推断泄漏

    发表
    被测模型
    MLP-1×4096、MLP-2×1024、MLP-2×2048 等11个
    摘要作者认为谱度量与泛化差距互补,有望用于无数据的模型级筛查。

    作者在 MLP 上检查 WeightWatcher 谱统计是否与 online LiRA 同向,以便不看数据、不训练 shadow 模型就做模型级成员风险筛查。放出前的审计要知道训练成员会不会被认出来。LiRA 依赖大量 shadow 模型,候选一多就难以逐个跑。

    深度解读完整解读
  6. 可解释性arXiv 2609.04721

    研究:拒答方向可跨架构迁移,安全工具可按写入位置重新估计

    在写入点定位拒答方向,经刚性旋转跨架构迁移并门控放大

    发表
    被测模型
    Falcon-Mamba-7B、Falcon3-Mamba-7B、Llama-3.1-8B 等8个
    摘要拒答方向可经刚性旋转跨架构迁移,但必须在各架构的写入点读取。

    作者研究拒答表示是否随架构改变,结论是表示共享、读取位置随架构变。

    深度解读完整解读
  7. 可解释性arXiv 2606.28153

    越狱攻击下的稳健有害特征:大语言模型注意力头功能分化的机制证据

    分析越狱下注意力头分化,解释未被消除的稳健有害特征

    发表
    被测模型
    Llama-3-8B-Instruct、Llama-2-7B-Chat、Llama-3-70B-Instruct 等8个
    摘要作者称越狱靠压制 ACH 绕过拒绝,SAH 仍留下可被免训练读出的有害特征。

    这篇工作在越狱已经绕过拒绝之后,检查注意力头是否出现功能分化,并把留下的内部激活用于免训练检测。

    深度解读完整解读
  8. 可解释性arXiv 2605.00123

    大语言模型越狱成功的最小、局部、因果解释

    提出 LOCA,沿 SAE 方向迭代激活补丁解释单次越狱成功

    发表
    被测模型
    Llama-3.1-8B-Instruct、Gemma-3-27B-IT、Gemma-2-2B-IT 等4个
    摘要LOCA 用少量 SAE 方向上的激活补丁,局部解释单次越狱为何能绕过拒答。

    LOCA 用尽量少的、可解释的中间表示变化,解释单次越狱为何能绕过拒答。

    深度解读完整解读
  9. 可解释性arXiv 2603.08234

    续写与拒答之争:大语言模型中续写触发越狱的机制分析

    分析续写触发越狱的注意力头机制并提出 HCS

    发表
    被测模型
    LLaMA-2-7B-Chat、Qwen2.5-7B-Instruct
    摘要作者称越狱来自两类头竞争,HCS 加蒸馏可把该竞争用于推理时干预。

    作者用注意力头机制分析 continuation-triggered jailbreak:同一有害指令下,把 continuation 后缀从指令后面挪到提示词边界外,模型更容易顺着后缀继续生成。

    深度解读完整解读
已经到底了