跳到正文
10月13日 · 周二

全部论文

找到 13篇
筛选3
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 215篇还没打标签,不在筛选结果里。

另有215篇论文还没打上分类标签,暂不在筛选结果里。

  1. 可解释性arXiv 2610.13078

    注意力看见,MLP 拒绝:追踪 LLM 中从注意力到 MLP 的安全路径

    追踪注意力识别有害性到 MLP 拒绝写入的通路并提出 Sentinel

    发表
    被测模型
    Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct、Qwen3-8B-Instruct 等18个
    摘要注意力更新更易读出有害性,MLP 更新写入拒绝,Sentinel 用两路信号路由提醒。

    作者把对齐模型的越狱和过度拒绝,改写成残差流上从识别到写入的通路问题,并据此做解码前的条件提醒。

    深度解读完整解读
  2. 评测与基准arXiv 2609.29429

    Jev 被用于零样本检测十类对齐失败,中位 AUROC 达 0.886

    提出 RLCDAlignBench,零样本检测多种对齐失败

    发表
    被测模型
    Jev (jev-1.13.0)
    摘要一次通用问题已能给多数对齐失败排序,大的误差来自状态和标签。

    RLCDAlignBench 测量用强化学习做校准决策的 Jev,能否当作对齐失败的零样本检测器。

    深度解读完整解读
  3. 风险行为arXiv 2609.08186

    论文揭示大推理模型的对齐崩溃并提出 Reasoning Trap 越狱范式

    揭示推理加深引发的对齐坍塌,用 Reasoning Trap 放大越狱

    发表
    被测模型
    Qwen3-8B、Qwen3-14B、Llama2-7B 等8个
    摘要更深推理提升题目准确率,同时提高扰动下的相对损失。

    作者研究扩展推理是否以对齐稳健性为代价,提出 ALR、RT 与 RRA。。

    深度解读完整解读
  4. 可解释性arXiv 2609.04721

    研究:拒答方向可跨架构迁移,安全工具可按写入位置重新估计

    在写入点定位拒答方向,经刚性旋转跨架构迁移并门控放大

    发表
    被测模型
    Falcon-Mamba-7B、Falcon3-Mamba-7B、Llama-3.1-8B 等8个
    摘要拒答方向可经刚性旋转跨架构迁移,但必须在各架构的写入点读取。

    作者研究拒答表示是否随架构改变,结论是表示共享、读取位置随架构变。

    深度解读完整解读
  5. 评测与基准arXiv 2608.20554

    aiXamine:跨维度评测 LLM 安全、安全(security)与隐私权衡

    提出 aiXamine 黑盒基准,统一评测 LLM 安全、稳健与隐私权衡

    发表
    被测模型
    openai/gpt-5-mini、openai/gpt-4o、anthropic/claude-haiku-4.5 等15个
    摘要aiXamine 用九服务黑盒协议比较百余个模型,作者称单轴信任度进展可能削弱其他轴。

    aiXamine 是一套黑盒评测协议,用来在同一条件下比较 LLM 的 safety、security 与 privacy,而不是再产出一个能力分。

    深度解读完整解读
  6. 防御arXiv 2608.13304

    WIFA:按意图分组监督缓解包装式越狱与过度拒答

    提出 WIFA 意图组监督微调,缓解包装式越狱与过度拒答

    发表
    被测模型
    Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct
    摘要WIFA 用匹配意图组做数据层,WIFA-Boost 偏高安全,A-GCRT 在 Qwen 上把过拒降到基座以下。

    WIFA 是一种自动意图组数据构造,用来让安全微调拒绝有害意图而不是拒绝表面包装。WIFA-Boost 与 A-GCRT 在同一数据层上选取不同的安全–过拒工作点。

    深度解读完整解读
  7. 可解释性arXiv 2606.28153

    越狱攻击下的稳健有害特征:大语言模型注意力头功能分化的机制证据

    分析越狱下注意力头分化,解释未被消除的稳健有害特征

    发表
    被测模型
    Llama-3-8B-Instruct、Llama-2-7B-Chat、Llama-3-70B-Instruct 等8个
    摘要作者称越狱靠压制 ACH 绕过拒绝,SAH 仍留下可被免训练读出的有害特征。

    这篇工作在越狱已经绕过拒绝之后,检查注意力头是否出现功能分化,并把留下的内部激活用于免训练检测。

    深度解读完整解读
  8. CSSBench:评估轻量级 LLM 面对中文特有对抗模式的安全性

    提出 CSSBench 评测轻量模型对中文表面对抗改写的失守与过度拒绝

    发表
    被测模型
    Qwen3-0.6B、Qwen3-1.7B、Qwen3-8B 等10个
    摘要CSSBench 用表面扰动和边界查询评轻量模型。

    CSSBench 评测轻量 LLM 在中文特有表面改写下的安全,并同时测量过度拒绝。要处理的缺口是:英文向护栏和只测干净查询的中文基准,看不清同音、拼音、符号混写、零宽字符这些写法下的失守,也分不清较低风险来自细粒度判断还是粗粒度拒答。作者称轻量模型更需要这种评测。

    深度解读完整解读
已经到底了