跳到正文
10月13日 · 周二

全部论文

找到 2篇
筛选5

攻击类型

越狱8提示注入2恶意使用0

层

模型层2应用层25

系统组件

监控器2图像生成3嵌入0多模态5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 201篇还没打标签，不在筛选结果里。
攻击类型：提示注入攻击类型：恶意使用层：模型层系统组件：监控器系统组件：嵌入清除全部

另有201篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2610.02413

    研究：分类后缀可提升激活探针的分布外恶意输入检测

    用分类后缀提升激活探针对分布外恶意输入的检测

    arXiv
    2610.02413
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Llama-3.1-8B、Qwen3.5-9B、Gemma-4-12B
    摘要作者称排序增益来自分类格式，低 FPR 精度来自点名准则。

    用户轮后的分类后缀，被作者用作激活探针的分布外检测干预：排序看格式，低 FPR 精度看是否点名恶意/良性。

    深度解读完整解读
  2. 评测与基准arXiv 2602.14161

    当基准说谎：在真实分布偏移下评估恶意提示分类器

    提出 LODO 评测恶意提示探针的跨数据集泛化

    arXiv
    2602.14161
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Llama-3.1-8B-Instruct、Gemma-3-27B、Qwen-3.5-4B 等5个
    摘要作者称 LODO 露出 CV 高估，数据集身份与安全方向部分重叠，标准域泛化干预关不上。

    LODO 用来检查恶意提示词分类器换成没见过的数据集后，还剩多少检测能力。。

    深度解读完整解读
已经到底了