跳到正文
10月9日 · 周五

全部论文

找到 2 篇
筛选6

攻击类型

越狱2提示注入1投毒与后门12模型篡改16提取与窃取6检测规避3

攻击技术

梯度与表征优化1

防御类型

模型加固1

影响

有害内容2

系统形态

模型与 API2AI Agent1编程 Agent0具身与机器人0

攻击者权限

黑盒2白盒2

攻击面/入口

用户输入71网页与界面0文档与消息1工具返回2图像与音视频10训练数据1权重与梯度2推理服务与硬件1

层

提示层1训练与数据层1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 524 篇还没打标签，不在筛选结果里。
攻击类型：越狱系统形态：模型与 API系统形态：编程 Agent系统形态：具身与机器人攻击面/入口：网页与界面攻击面/入口：权重与梯度清除全部

另有 524 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2608.07430

    研究者提出 SN-Guided Diffusion，利用扩散大模型安全神经元实现离线越狱

    提出 SN-Guided Diffusion，利用安全神经元实现离线越狱

    arXiv
    2608.07430
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒、白盒
    测试
    Qwen2.5-7B-Instruct、LLaDA-8B-Instruct、Dream-Instruct-7B 等 15 个
    摘要论文揭示了扩散语言模型对自回归安全神经元的继承性，并提出纯离线黑盒越狱框架 SN-Guided Diffusion。

    论文系统评估了扩散大语言模型（DLLM）在安全对齐中的双重角色——既作为白盒攻击目标，又作为黑盒越狱生成的对抗工具。

    深度解读完整解读
  2. 防御arXiv 2609.02293

    SEAL：通过共享专家对齐强化 MoE 全局安全

    提出 SEAL，在 MoE 共享专家上做 DPO-LoRA 对齐以抵御越狱与权重篡改

    arXiv
    2609.02293
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    白盒、黑盒
    测试
    Qwen1.5-MoE-A2.7B、DeepSeekMoE-16B、GLM-4.7-Flash 等 4 个
    摘要SEAL 把 DPO-LoRA 限制在混合 MoE 共享专家上，SEAL++再保护已有安全神经元方向。

    SEAL是面向混合 MoE 的训练时防御：只对齐始终执行的共享专家，使安全不依赖路由器是否把 token 送到安全专家。

    深度解读完整解读
已经到底了