跳到正文
10月10日 · 周六

全部论文

找到 7 篇
筛选6

攻击类型

越狱4

影响

有害内容4

系统形态

模型与 API7

攻击面/入口

用户输入6网页与界面0记忆写入0训练数据0权重与梯度1

层

提示层26模型层7应用层48训练与数据层10
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 208 篇还没打标签，不在筛选结果里。
攻击面/入口：用户输入攻击面/入口：网页与界面攻击面/入口：记忆写入攻击面/入口：训练数据攻击面/入口：权重与梯度层：模型层清除全部

另有 208 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2610.10276

    PatchBench 提出激活补丁局部评测协议，揭示越狱修复的附带损伤

    提出 PatchBench-Local 协议，评测激活补丁修复越狱的局部附带损伤

    arXiv
    2610.10276
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Qwen2.5-3B-Instruct、Qwen2.5-14B-Instruct、gemma-3-4b-it 等 8 个

    摘要论文提出 PatchBench 与局部评估协议，揭示了激活补丁在全局能力无损下仍存局部良性退化。

    深度解读完整解读
  4. 评测与基准arXiv 2609.08901

    论文揭示 BatchNorm 架构下机器遗忘评测的归一化伪影

    诊断 BatchNorm 架构下机器遗忘评测的归一化伪影

    arXiv
    2609.08901
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    ResNet-18、ResNet-50、ViT-S/16 等 4 个
    摘要一次不改权重的 BN 重校准能翻转多数方法的表面遗忘，但不改变权重里的编码器泄露。

    BN illusion 是作者对近似机器遗忘评测中一种 BatchNorm 测量伪影的命名：不改权重、只用 retain 数据重算运行统计，就可以把表面遗忘准确率翻过来。

    深度解读完整解读
  6. 评测与基准arXiv 2608.28233

    REINS：用 SAE 特征同时抑制有害续写并增强拒答的引导方法

    提出 REINS，在 SAE 空间抑制有害延续并增强拒答

    arXiv
    2608.28233
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Qwen3.5-4B-Base、Qwen3.5-2B-Base、Gemma-3-1B-IT
    摘要REINS 分角色抑制有害延续并增强拒答。

    REINS 是一种推理时 SAE 安全转向方法，并配有用于上下文伪装的基准 GUISE。

    深度解读完整解读
  7. 评测与基准arXiv 2608.20554

    aiXamine：跨维度评测 LLM 安全、安全（security）与隐私权衡

    提出 aiXamine 黑盒基准，统一评测 LLM 安全、稳健与隐私权衡

    arXiv
    2608.20554
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    openai/gpt-5-mini、openai/gpt-4o、anthropic/claude-haiku-4.5 等 15 个
    摘要aiXamine 用九服务黑盒协议比较百余个模型，作者称单轴信任度进展可能削弱其他轴。

    aiXamine 是一套黑盒评测协议，用来在同一条件下比较 LLM 的 safety、security 与 privacy，而不是再产出一个能力分。

    深度解读完整解读
已经到底了