跳到正文
10月10日 · 周六

全部论文

找到 8 篇
筛选8

攻击类型

模型篡改7

影响

有害内容3

系统形态

模型与 API8

攻击者权限

黑盒4灰盒1白盒7

攻击面/入口

用户输入12网页与界面0记忆写入0图像与音视频7训练数据0权重与梯度8

层

模型层8应用层0训练与数据层10
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 201 篇还没打标签，不在筛选结果里。
攻击者权限：灰盒攻击者权限：白盒攻击面/入口：网页与界面攻击面/入口：记忆写入攻击面/入口：训练数据攻击面/入口：权重与梯度层：模型层层：应用层清除全部

另有 201 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.05894

    研究者提出闭环偏见注入攻击

    提出闭环激活引导，在扩散语言模型去噪过程中注入定向偏见

    arXiv
    2610.05894
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    灰盒
    被测模型
    LLaDA-8B-Instruct、Dream-v0-Instruct-7B、LLaDA-MoE-7B-A1B-Instruct

    摘要通过去噪中间概率反馈动态调节残差流转向，证明扩散语言模型在推理服务栈中存在闭环偏见注入脆弱性。

    深度解读完整解读
  2. 攻击arXiv 2610.05601

    Tracer 框架可从遗忘后的扩散模型中识别被擦除概念

    提出 TRACER，从权重差识别扩散模型被擦除概念

    arXiv
    2610.05601
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    白盒
    被测模型
    Stable Diffusion v1.5、Stable Diffusion 3、FLUX.1 等 5 个
    摘要TRACER 用权重足迹识别未披露擦除概念并估计个数，作者称数秒内完成且准确率高于对照。

    TRACER 针对的是遗忘扩散模型上的目标识别：提供者从公开基座 W 用已发表方法擦掉未知集合 S⋆，只发布 W′。攻击者还有假定包含这些概念的词表，但不知擦了谁、擦了几个、用了什么算法。

    深度解读完整解读
  3. 攻击arXiv 2610.03124

    研究提出 Untag 攻击框架，使开源大模型触发标签滥用检测机制失效

    提出 UNTAG，绕过开源权重模型的 trigger-tag 滥用检测

    arXiv
    2610.03124
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    黑盒、白盒
    被测模型
    Llama2 (7B)、Llama3 (8B)、Qwen2.5 (7B)
    摘要作者用 UNTAG 评估 trigger-tag，认为其不能充当开放权重滥用检测的主要边界。

    UNTAG 是针对开放权重 LLM 上条件滥用检测 trigger-tag 的统一攻击评估：信号可以在解码期注入，也可以写进权重，但攻击者若能改输出或改已发布权重，检测可以失效。

    深度解读完整解读
  6. 攻击arXiv 2605.08513

    Apple 研究者发现抑制单个神经元即可绕过 LLM 安全对齐

    提出单神经元激活干预，抑制拒答神经元或放大概念神经元以绕过安全对齐

    arXiv
    2605.08513
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    白盒
    被测模型
    Qwen3-1.7B、Qwen3-4B、Qwen3-8B 等 11 个

    摘要作者称大模型安全由拒答门控与概念底座构成，干预单个神经元足以双向击穿对齐，且拒答神经元在预训练阶段已然存在。

    深度解读完整解读
已经到底了