跳到正文
10月12日 · 周一

全部论文

找到 5篇
筛选4
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 232篇还没打标签,不在筛选结果里。

另有232篇论文还没打上分类标签,暂不在筛选结果里。

  1. SinoGlyphBench:中文字形混淆下语言模型审核的诊断基准

    提出 SinoGlyphBench,用配对字形混淆诊断中文审核稳定性

    发表
    被测模型
    GPT-5.4 mini、GPT-5.5、DeepSeek V4 Flash 等12个
    摘要SinoGlyphBench 显示中文字形混淆会同时增加有害漏报和误报,全文扰动最重。

    SinoGlyphBench是一个配对诊断基准,用来看内容审核在可还原的中文字形混淆下是否还保持原决定。

    深度解读完整解读
  2. 攻击arXiv 2605.21541

    研究者提出 FRA-Attack 频域正则化方法,提升对闭源 MLLM 的迁移攻击效果

    提出 FRA-Attack,用频域对齐与梯度正则做可迁移定向视觉攻击

    发表
    攻击者
    黑盒
    被测模型
    GPT-5.2、GPT-5.4、Claude-Opus-4.6 等15个
    摘要FRA-Attack 以频域对齐和梯度低通做可迁移定向攻击,闭源面板上作者称整体更强,Gemma 除外。

    FRA-Attack 是面向闭源 MLLM 的迁移式定向图像攻击。作者要解决的是:空间域局部对齐重复全局低频,代理梯度的高频成分又把更新拉向代理自身。

    深度解读完整解读
  3. 攻击arXiv 2604.03117

    揭示物理世界语义漏洞:面向红外视觉语言模型的通用对抗贴片

    提出通用弯曲网格补丁 UCGP,使红外视觉语言模型产生跨任务语义偏差

    发表
    攻击者
    灰盒
    被测模型
    OpenAI CLIP ViT-L/14、OpenCLIP ViT-B/16、Meta-CLIP ViT-L/14 等10个
    摘要UCGP 用一条共享弯曲网格补丁,同时拉低 IR-VLM 的分类与开放式输出。

    UCGP 是面向红外视觉语言模型的通用物理对抗补丁。问题是:一块可贴上并跨样本复用的物体,能否让分类、描述和 VQA 共用的红外视觉证据出现稳定语义偏差。补丁被限制成低频弯曲网格。

    深度解读完整解读
  4. 攻击arXiv 2602.09431

    Grounding 驱动的攻击:提升基于编码器的对抗攻击对大型视觉语言模型的迁移性

    提出 GDA,将图像对抗扰动对齐文本接地证据并迁移攻击视觉语言模型

    发表
    被测模型
    LLaVA、Qwen2.5-VL、InternVL3 等10个
    摘要GDA 把扰动对准文本接地证据,作者称这提高了异构 LVLM 上的零查询黑盒迁移性。

    GDA 是面向异构 LVLM 的零查询黑盒编码器迁移攻击。。

    深度解读完整解读
  5. 攻击arXiv 2601.21531

    视觉 token 压缩下大型视觉语言模型的对抗鲁棒性

    提出 CAGE 攻击,在视觉 token 压缩下用图像扰动使预测偏离

    发表
    攻击者
    灰盒
    被测模型
    LLaVA、Qwen2.5-VL、InternVL3-8B 等5个
    摘要CAGE 对齐压缩瓶颈后,压缩 LVLM 的稳健准确率低于全 token 编码器攻击。

    CAGE 研究的是:LVLM 在推理时剪枝或合并视觉 token 之后,对抗稳健性该怎么估。

    深度解读完整解读
已经到底了