跳到正文
10月10日 · 周六

全部论文

找到 7 篇
筛选5

影响

数据与隐私泄露3输出被操纵7

系统形态

模型与 API7coding agent0网页与电脑操作0

攻击面/入口

图像与音视频5

层

模型层5

系统组件

护栏与评审9推理链6微调与开源权重10视觉19音频7视频3图像生成9多模态33
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 404 篇还没打标签，不在筛选结果里。
影响：输出被操纵系统形态：模型与 API系统形态：coding agent系统形态：网页与电脑操作系统组件：音频清除全部

另有 404 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2610.06339

    BabelFake：面向多语言音视频 DeepFake 检测的基准数据集

    构建多语言音视频 DeepFake 基准 BabelFake 并评测检测器

    arXiv
    2610.06339
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    SpeechForensics、AVH-Align、(B)RAVEn
    摘要BabelFake 为五语同意采集基准。

    BabelFake 是经同意与 IRB 批准采集的多语音视频 DeepFake 检测基准，用来把视觉操纵和语音合成拆开比较。

    深度解读完整解读
  4. 防御arXiv 2609.37568

    SECRET：用源条件化中继引导缓解音视频大语言模型的幻觉

    提出训练无关的 SECRET，对问题表征做源条件转向以缓解音视频模型幻觉

    arXiv
    2609.37568
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    VideoLLaMA2-AV-7B、Qwen2.5-Omni-7B、Qwen3-Omni-30B-A3B
    摘要SECRET 在问题状态上做源条件转向，三个 AVLLM 上减轻了跨模态接地幻觉。

    SECRET 是一种训练无关的问题状态转向方法，用来减轻 AVLLM 的 source-confused grounding hallucination。

    深度解读完整解读
  7. 攻击arXiv 2604.14604

    AudioHijack 框架对 13 个语音大模型实现隐蔽音频提示注入

    提出 AudioHijack，用不可感知对抗音频对语音模型做上下文无关提示注入

    arXiv
    2604.14604
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    SpeechGPT、GLM-4-Voice、VITA-Audio 等 15 个

    摘要提出了 AudioHijack 框架，揭示了 LALM 对听觉提示注入的脆弱性与传统防御的局限。

    深度解读完整解读
已经到底了