跳到正文
10月10日 · 周六

全部论文

找到 5 篇
筛选7

攻击类型

越狱3

影响

有害内容3

系统形态

模型与 API5web agent0网页与电脑操作0

攻击者权限

黑盒15白盒5

攻击面/入口

图像与音视频5

系统组件

护栏与评审3监控器0推理链4微调与开源权重8视觉5音频3图像生成3嵌入1多模态11
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 208 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：web agent系统形态：网页与电脑操作攻击者权限：白盒系统组件：监控器系统组件：视觉系统组件：嵌入清除全部

另有 208 篇论文还没打上分类标签，暂不在筛选结果里。

  3. 防御arXiv 2608.12876

    SPARED：用对抗编辑数据训练基于推理的 AI 生成图像检测器

    提出 SPARED，用对抗编辑数据训练基于推理的 AI 生成图像检测器

    arXiv
    2608.12876
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    黑盒、白盒
    被测模型
    Qwen3.5-9B
    摘要SPARED 用防捷径的编辑对抗环训练 9B 推理检测器。

    SPARED 是一套用于可解释 AI 生成图像检测的攻防强化学习流程，报告模型是 Qwen3.5-9B 上的第三轮防御器。

    深度解读完整解读
  4. 防御arXiv 2607.14737

    GeoDetect：面向视觉语言预训练模型的几何对抗检测方法

    提出 GeoDetect 以几何分数检测视觉语言预训练模型的对抗样本

    arXiv
    2607.14737
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    白盒
    被测模型
    CLIPViT (ViT-B/16)、CLIPCNN (ResNet-50)、ALBEF 等 4 个
    摘要GeoDetect 用几何分数检测 VLP 对抗样本。

    GeoDetect 是面向视觉-语言预训练模型的对抗样本检测方法，用嵌入几何而不是任务 logits 区分干净样本与对抗样本。

    深度解读完整解读
  5. 攻击arXiv 2605.07399

    研究者提出 GPO-V，用全局概率优化越狱扩散视觉语言模型

    提出 GPO-V，用全局概率优化的视觉扰动越狱扩散视觉语言模型

    arXiv
    2605.07399
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    白盒、黑盒
    被测模型
    LLaDA-V、LaViDA
    摘要作者用视觉扰动改 dVLM 的全局生成概率，以绕过两类拒绝。

    GPO-V 把越狱从“开头必须顺从”改成“整段去噪概率朝肯定方向走”。。

    深度解读完整解读
已经到底了