跳到正文
10月13日 · 周二

全部论文

找到 25篇
筛选5
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 213篇还没打标签,不在筛选结果里。

另有213篇论文还没打上分类标签,暂不在筛选结果里。

  1. 攻击arXiv 2610.12644

    癌变式后门攻击:借助不可见 token 与阶段控制器实现渐进激活

    提出 Cancerous 后门,用不可见阶段 token 分阶段腐蚀推理

    发表
    被测模型
    Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct、Mistral-7B-Instruct-v0.3
    摘要隐藏 token 加阶段控制器使后门随触发累积腐蚀推理,作者认为只看答案会漏掉它。

    Cancerous Backdoor Attack 把 LLM 后门从一次激活改成随触发累积推进的多阶段推理腐蚀。

    深度解读完整解读
  2. 攻击arXiv 2610.09027

    P-VMI:对抗图像经 KV cache 持续影响多轮对话

    提出持久视觉记忆注入,使对抗图像经缓存在触发时操控输出

    发表
    被测模型
    Qwen3-8B、Qwen3-VL-8B-Instruct、Gemma-4-12B

    摘要论文提出 P-VMI,证实对抗输入被掩蔽后仍可经 KV 缓存持久控制模型,强调了保留状态的安全风险。

    深度解读完整解读
  3. 攻击arXiv 2610.05894

    研究者提出闭环偏见注入攻击

    提出闭环激活引导,在扩散语言模型去噪过程中注入定向偏见

    发表
    攻击者
    灰盒
    被测模型
    LLaDA-8B-Instruct、Dream-v0-Instruct-7B、LLaDA-MoE-7B-A1B-Instruct

    摘要通过去噪中间概率反馈动态调节残差流转向,证明扩散语言模型在推理服务栈中存在闭环偏见注入脆弱性。

    深度解读完整解读
  4. 攻击arXiv 2610.03430

    JIL:通过对抗后缀操纵 LLM 请求调度优先级

    提出 JIL 对抗后缀,压低长度预测以抬高请求调度优先级

    发表
    被测模型
    Llama-3-8B-Instruct、Qwen2.5-7B-Instruct、Mistral-7B-Instruct-v0.3 等4个
    摘要JIL 用对抗后缀压低长度预测,在预测式 LLM 调度中提高自身优先级。

    JIL 是对预测式 LLM 调度的攻击:用对抗后缀压低长度预测,使请求在 SRPT 式队列里更早得到服务。

    深度解读完整解读
  5. 评测与基准arXiv 2607.19855

    研究者提出最小范数攻击集成,用鲁棒性曲线替代单一 ε 评测

    提出最小范数攻击集成,用鲁棒性曲线评测图像分类器

    发表
    被测模型
    C1–C20(CIFAR-10,Table 1)、I1–I10(ImageNet,Table 1)
    摘要预算可控的最小范数集成用 AOI 逼近攻击前沿,DOI 给出不依赖单一ε的防御排序。

    这篇工作把对抗鲁棒评测从单一 ε、固定集成,改成可按查询预算收紧的曲线估计。

    深度解读完整解读
  6. 攻击arXiv 2605.21541

    研究者提出 FRA-Attack 频域正则化方法,提升对闭源 MLLM 的迁移攻击效果

    提出 FRA-Attack,用频域对齐与梯度正则做可迁移定向视觉攻击

    发表
    攻击者
    黑盒
    被测模型
    GPT-5.2、GPT-5.4、Claude-Opus-4.6 等15个
    摘要FRA-Attack 以频域对齐和梯度低通做可迁移定向攻击,闭源面板上作者称整体更强,Gemma 除外。

    FRA-Attack 是面向闭源 MLLM 的迁移式定向图像攻击。作者要解决的是:空间域局部对齐重复全局低频,代理梯度的高频成分又把更新拉向代理自身。

    深度解读完整解读
  7. 攻击arXiv 2604.14604

    AudioHijack 框架对 13 个语音大模型实现隐蔽音频提示注入

    提出 AudioHijack,用不可感知对抗音频对语音模型做上下文无关提示注入

    发表
    被测模型
    SpeechGPT、GLM-4-Voice、VITA-Audio 等15个

    摘要提出了 AudioHijack 框架,揭示了 LALM 对听觉提示注入的脆弱性与传统防御的局限。

    深度解读完整解读
  8. 攻击arXiv 2604.03117

    揭示物理世界语义漏洞:面向红外视觉语言模型的通用对抗贴片

    提出通用弯曲网格补丁 UCGP,使红外视觉语言模型产生跨任务语义偏差

    发表
    攻击者
    灰盒
    被测模型
    OpenAI CLIP ViT-L/14、OpenCLIP ViT-B/16、Meta-CLIP ViT-L/14 等10个
    摘要UCGP 用一条共享弯曲网格补丁,同时拉低 IR-VLM 的分类与开放式输出。

    UCGP 是面向红外视觉语言模型的通用物理对抗补丁。问题是:一块可贴上并跨样本复用的物体,能否让分类、描述和 VQA 共用的红外视觉证据出现稳定语义偏差。补丁被限制成低频弯曲网格。

    深度解读完整解读
  9. 攻击arXiv 2602.17837

    TFL:针对大语言模型的定向比特翻转攻击

    提出 TFL 定向比特翻转,使选定提示输出虚假答案且无关查询保持正确

    发表
    被测模型
    Qwen3-8B、DeepSeek-R1-Distill-Qwen-14B、LLaMA-3.1-8B-INSTRUCT
    摘要TFL 在三个 LLM 上搜索权重比特,使指定提示出现目标关键词,并约束无关任务下降。

    TFL 是对 LLM 主存权重的目标比特翻转框架:攻击者要让选定提示输出指定虚假答案关键词,同时限制无关查询上的降质。

    深度解读完整解读
  10. 攻击arXiv 2602.09431

    Grounding 驱动的攻击:提升基于编码器的对抗攻击对大型视觉语言模型的迁移性

    提出 GDA,将图像对抗扰动对齐文本接地证据并迁移攻击视觉语言模型

    发表
    被测模型
    LLaVA、Qwen2.5-VL、InternVL3 等10个
    摘要GDA 把扰动对准文本接地证据,作者称这提高了异构 LVLM 上的零查询黑盒迁移性。

    GDA 是面向异构 LVLM 的零查询黑盒编码器迁移攻击。。

    深度解读完整解读
  11. 攻击arXiv 2602.01574

    SGHA-Attack:面向视觉语言模型可迁移目标攻击的语义引导分层对齐

    提出 SGHA-Attack,对视觉语言模型做可迁移定向图像扰动

    发表
    被测模型
    UniDiffuser、BLIP-2、InstructBLIP 等9个
    摘要用多锚点与分层对齐做定向迁移。

    SGHA-Attack 是对视觉语言模型的可迁移定向攻击:只在 CLIP 代理上优化扰动,让黑盒模型按指定文本描述图像。要处理的困难是,单一参考加上只对齐代理末层,会使优化绑在该嵌入空间上,中间层语义用不上,异构 VLM 上的指定描述更容易失败。引言把绕过安全护栏列为动机,测的则是描述是否被导向目标文本。

    深度解读完整解读