跳到正文
10月10日 · 周六

全部论文

找到 11 篇
筛选8

攻击类型

越狱7

攻击技术

梯度与表征优化4

防御类型

模型加固3推理时干预3

影响

有害内容5输出被操纵5

系统形态

模型与 API11coding agent0多智能体0

攻击者权限

黑盒25白盒11

攻击面/入口

用户输入5图像与音视频8

层

提示层4模型层5

系统组件

护栏与评审3推理链4微调与开源权重8视觉5音频3图像生成3嵌入1多模态11
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 216 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：coding agent系统形态：多智能体攻击者权限：白盒系统组件：推理链系统组件：视觉系统组件：音频系统组件：嵌入清除全部

另有 216 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.38909

    Purdue 提出 Pact：将欺骗作为行为遗忘

    提出 PACT，遗忘推理模型在压力下的欺骗行为并保留上下文理解

    arXiv
    2609.38909
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    白盒
    被测模型
    DeepSeek-R1-Distill-Qwen-32B、QwQ-32B

    摘要论文将大模型欺骗形式化为上下文条件行为，提出 PACT 框架在消除欺骗的同时保留了上下文遵循能力。

    深度解读完整解读
  7. 防御arXiv 2608.12876

    SPARED：用对抗编辑数据训练基于推理的 AI 生成图像检测器

    提出 SPARED，用对抗编辑数据训练基于推理的 AI 生成图像检测器

    arXiv
    2608.12876
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    黑盒、白盒
    被测模型
    Qwen3.5-9B
    摘要SPARED 用防捷径的编辑对抗环训练 9B 推理检测器。

    SPARED 是一套用于可解释 AI 生成图像检测的攻防强化学习流程，报告模型是 Qwen3.5-9B 上的第三轮防御器。

    深度解读完整解读
  8. 防御arXiv 2607.14737

    GeoDetect：面向视觉语言预训练模型的几何对抗检测方法

    提出 GeoDetect 以几何分数检测视觉语言预训练模型的对抗样本

    arXiv
    2607.14737
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    白盒
    被测模型
    CLIPViT (ViT-B/16)、CLIPCNN (ResNet-50)、ALBEF 等 4 个
    摘要GeoDetect 用几何分数检测 VLP 对抗样本。

    GeoDetect 是面向视觉-语言预训练模型的对抗样本检测方法，用嵌入几何而不是任务 logits 区分干净样本与对抗样本。

    深度解读完整解读
  10. 攻击arXiv 2605.07399

    研究者提出 GPO-V，用全局概率优化越狱扩散视觉语言模型

    提出 GPO-V，用全局概率优化的视觉扰动越狱扩散视觉语言模型

    arXiv
    2605.07399
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    白盒、黑盒
    被测模型
    LLaDA-V、LaViDA
    摘要作者用视觉扰动改 dVLM 的全局生成概率，以绕过两类拒绝。

    GPO-V 把越狱从“开头必须顺从”改成“整段去噪概率朝肯定方向走”。。

    深度解读完整解读
已经到底了