跳到正文
10月10日 · 周六

越狱与攻击 · 论文

找到 4 篇
筛选6

攻击类型

越狱4模型篡改3

影响

有害内容4

系统形态

模型与 API4coding agent0网页与电脑操作0具身与机器人0

攻击面/入口

用户输入55记忆写入0图像与音视频14权重与梯度4

层

模型层3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。
系统形态：模型与 API系统形态：coding agent系统形态：网页与电脑操作系统形态：具身与机器人攻击面/入口：记忆写入攻击面/入口：权重与梯度话题：越狱与攻击清除全部
  2. 攻击arXiv 2608.07430

    研究者提出 SN-Guided Diffusion，利用扩散大模型安全神经元实现离线越狱

    提出 SN-Guided Diffusion，利用安全神经元实现离线越狱

    arXiv
    2608.07430
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒、白盒
    被测模型
    Qwen2.5-7B-Instruct、LLaDA-8B-Instruct、Dream-Instruct-7B 等 15 个
    摘要论文揭示了扩散语言模型对自回归安全神经元的继承性，并提出纯离线黑盒越狱框架 SN-Guided Diffusion。

    论文系统评估了扩散大语言模型（DLLM）在安全对齐中的双重角色——既作为白盒攻击目标，又作为黑盒越狱生成的对抗工具。

    深度解读完整解读
  4. 攻击arXiv 2509.22067

    论文：激活引导可破坏 LLM 安全对齐，20 个随机向量即可构造通用越狱攻击

    提出激活转向越狱，用随机向量在推理时绕过安全拒答

    arXiv
    2509.22067
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    Llama3.1-8B、Llama3.1-70B、Qwen2.5-3B 等 8 个

    摘要作者称激活转向会系统性破坏 LLM 对齐，良性特征与随机向量均能诱发有害合规，聚合随机向量可构建通用攻击。

    深度解读完整解读
已经到底了