跳到正文
10月8日 · 周四

全部论文

找到 7 篇
筛选1

攻击类型

越狱2恶意使用1

模型自身风险

拒答失当2幻觉与编造2

防御类型

模型加固2推理时干预2检测与过滤2

影响

有害内容3数据与隐私泄露1输出被操纵3

系统形态

模型与 API6LLM 应用1

攻击面/入口

用户输入4图像与音视频4

层

提示层1模型层3应用层1训练与数据层2

系统组件

MCP 与技能8记忆1RAG2护栏与评审11监控器10推理链2权限与沙箱15微调与开源权重7视觉7音频2图像生成3多模态10

被测模型厂商

Qwen（阿里）6其他7
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1049 篇还没打标签，不在筛选结果里。
系统组件：视觉清除全部

另有 1049 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv:2610.05637 ·

    研究显示 VLM 视觉定位输出的拒答率按危害领域平均低 31 至 59 个百分点

    提出融合定位拒答与能力保留的安全微调，补齐视觉定位输出的拒答缺口

    模型与 API测试Claude Sonnet 4.6、Gemini 3.5 Flash、Molmo2-8B 等 5 个训练与数据层

    摘要论文揭示了 VLM 定位安全落后于 VQA 的对齐断层，提出三成分微调方案有效弥合差距并保留定位能力，表征分析揭示了对齐机制。

    完整解读
  2. 防御arXiv:2607.24017 ·

    多模态大模型注意力中的语义与结构偏差解耦：SPAR 免训练干预方法

    提出 SPAR 免训练干预，分离注意力结构偏置并减轻多模态幻觉

    模型与 API测试LLaVA-v1.5、LLaVA-1.5-7B、LLaVA-NeXT 等 7 个模型层
    摘要SPAR 用显著性净化文本结构偏置并重分配注意力，在 LLaVA 上同时压低自发幻觉、抬升 gaslighting 后准确率。

    SPAR 是一种免训练的 MLLM 推理时干预，用来把注意力里的结构偏置和语义视觉信号分开。

    完整解读
  4. 防御arXiv:2608.00716 ·

    生成图像更易被遗忘：面向合成图像检测的机器遗忘视角

    提出机器遗忘式生成图像检测，用遗忘前后特征相似度区分自然图与生成图

    模型与 API测试DINOv2 ViT-S/14、DINOv2 ViT-B/14、DINOv2 ViT-L/14 等 9 个模型层
    摘要作者用剪枝或 LoRA 遗忘拉开生成图与自然图的特征相似度，并在多个检测基准上报告结果。

    这篇工作把 AI 生成图像检测写成对预训练视觉模型的机器遗忘：原模型对两类图像损失都低，剪枝后生成图特征变得更不像原模型。

    完整解读
  5. 防御arXiv:2609.37837 ·

    Intent-Privilege OPSD：让视觉语言模型在隐式风险下兼顾安全与有用

    提出 Intent-Privilege OPSD，蒸馏证据化意图以对齐视觉语言模型的安全与有用

    模型与 API测试Qwen3-VL-4B-Instruct、LLaVA-1.5-7B、InternVL2-8B训练与数据层
    摘要证据化意图只在训练时使用，单次蒸馏同时提高联合成功并降低数据与训练时间。

    Intent-Privilege OPSD 针对视觉语言模型的跨模态隐式风险，把安全与有用性放进同一个训练目标，并要求部署时不再看意图。图像和文本可以各自无害、合在一起才有风险。

    完整解读
  6. 防御arXiv:2609.36562 ·

    ThinkingGuard：通过逐步风险归因解码多模态大语言模型中的隐式危害

    构建 TriggerBench 并训练 ThinkingGuard，检测图文隐式风险

    模型与 API测试ThinkingGuard（Qwen3-VL-8B-Instruct）、GPT-5.1、Claude-Sonnet-4-6 等 9 个提示层
    摘要TriggerBench 隔离触发条件，ThinkingGuard 用分步归因在隐式风险检测上取得作者报告的较高平均分。

    这篇工作研究多模态隐式风险检测：图文各自良性，风险只在关键元素与触发元素交互时出现。

    完整解读
  7. 防御arXiv:2609.37568 ·

    SECRET：用源条件化中继引导缓解音视频大语言模型的幻觉

    提出训练无关的 SECRET，对问题表征做源条件转向以缓解音视频模型幻觉

    模型与 API测试VideoLLaMA2-AV-7B、Qwen2.5-Omni-7B、Qwen3-Omni-30B-A3B模型层
    摘要SECRET 在问题状态上做源条件转向，三个 AVLLM 上减轻了跨模态接地幻觉。

    SECRET 是一种训练无关的问题状态转向方法，用来减轻 AVLLM 的 source-confused grounding hallucination。

    完整解读
已经到底了