SpeechJBB：语码转换语音下大型音频语言模型的越狱基准（原文，在新标签页打开）
提出 SpeechJBB，评测语码转换语音下音频语言模型的越狱稳健性。
#多模态
今天新收录 131条今天新收录 131条
#多模态
今天新收录 131条
10月9日周五
星期五
论文追踪 · 收录 · 原文 论文 论文追踪 · 收录 · 原文 论文精选关注度5757 MFA 框架在 17 个视觉语言模型上取得 58.5% 攻击成功率（原文，在新标签页打开）
香港中文大学、北京理工大学与华为诺亚方舟实验室提出 MFA 框架，协同突破视觉语言模型的对齐、提示与审核层。
论文追踪 · 收录 · 原文 论文关注度3939 研究者提出 Text-DJ，利用 OCR 能力越狱大型视觉语言模型（原文，在新标签页打开）
提出 Text-DJ，用拆分文本图网格越狱视觉语言模型。
论文追踪 · 收录 · 原文 论文关注度4141 ChartHal：评估大型视觉语言模型图表理解幻觉的细粒度基准（原文，在新标签页打开）
提出基准 CHART HAL，细粒度评测图表理解中的幻觉。
论文追踪 · 收录 · 原文 论文关注度4747 Jailbreak-AudioBench：面向大型音频语言模型的越狱评测基准（原文，在新标签页打开）
提出 Jailbreak-AudioBench 评测音频语言模型的音频编辑越狱。
论文追踪 · 收录 · 原文 论文精选关注度5858 Odysseus 用双重隐写越狱 GPT-4o、Gemini-2.0 与 Grok-3，攻击成功率最高 99%（原文，在新标签页打开）
提出双重隐写越狱 Odysseus，用图像隐写绕过多模态系统安全过滤器。
推荐理由论文披露商业多模态系统安全过滤依赖恶意内容显式可见的假设，并给出跨模态隐藏载荷的完整攻击链与实测成功率。
论文追踪 · 收录 · 原文 论文关注度3434 多模态大语言模型的多轮越狱攻击与 FragGuard 防御（原文，在新标签页打开）
提出多轮多模态越狱，并用 FragGuard 拦截有害响应。
论文追踪 · 收录 · 原文 论文关注度4646 RedDiffuser：用强化扩散生成视觉输入审计 VLM 多模态安全失效（原文，在新标签页打开）
提出 RedDiff，用强化扩散生成图像审计 VLM 情境安全失效。
论文追踪 · 收录 · 原文 论文关注度5050 VideoSTF 揭示视频大模型输出重复问题，时序扰动攻击成功率最高 98%（原文，在新标签页打开）
提出 VIDEO STF 评测视频大模型输出重复并压力测试时序扰动。
论文追踪 · 收录 · 原文 论文关注度5050 研究者提出 MM-Plan 多模态越狱框架，对 Claude 4.5 Sonnet 攻击成功率达 46.3%（原文，在新标签页打开）
提出 MM-Plan 多模态越狱框架，自动规划多轮图像编辑以越狱视觉独占目标。
arXiv：越狱、提示注入、投毒与防御 · 收录 · 原文 论文精选关注度5757 EpiReal-Bench：商用图像生成模型虚假声明红队基准，直接提示攻击成功率超 70%（原文，在新标签页打开）
构建 EpiReal-Bench，评测图像生成器将虚假主张渲染为可信证据。
推荐理由论文给出四款商用图像生成模型在虚假声明提示下的攻击成功率，并公开了基准与攻击框架，可对照检查自家模型的生成侧护栏。
arXiv：可解释性 · 收录 · 原文 论文关注度4646 FearCaut-Qwen：激活引导改变视觉语言模型的风险判定标准（原文，在新标签页打开）
用恐惧激活转向检验视觉语言模型的隐患判定准则。
arXiv：可解释性 · 收录 · 原文 论文关注度2828 用路由稀疏自编码器解耦语音编码器中的语言学与副语言学信息（原文，在新标签页打开）
提出路由 TopK SAE，把语音编码器稀疏码拆成语言与副语言通路。
10月8日周四
星期四
论文追踪 · 收录 · 原文 论文关注度3232 Artifact-Bench：评估 MLLM 检测与诊断 AI 生成视频伪影（原文，在新标签页打开）
提出 Artifact-Bench，评测 MLLM 检测并诊断 AI 生成视频伪影。
论文追踪 · 收录 · 原文 论文精选关注度5858 研究者提出视觉中心越狱攻击 VJA，Nano Banana Pro 攻击成功率达 80.9%（原文，在新标签页打开）
清华大学与鹏城实验室等机构的研究者提出纯视觉越狱攻击 VJA，把有害编辑指令编码进图像。
推荐理由论文给出视觉提示越狱在多个商业图像编辑模型上的成功率，并配套基准与免训练防御，便于评估图像编辑链路的安全缺口。
论文追踪 · 收录 · 原文 论文精选关注度5757 SWhisper 用近超声隐蔽声学通道对语音驱动 LLM 实现黑盒越狱（原文，在新标签页打开）
提出 SWhisper，用近超声波向语音驱动 LLM 隐蔽注入越狱提示。
推荐理由论文给出近超声隐蔽声学通道的完整建模与补偿方法，并报告了跨商用与开源语音模型的攻击成功率，语音接口的部署方可据此评估物理层风险。
论文追踪 · 收录 · 原文 论文关注度4242 Prometheus：针对文生图扩散模型的免训练提示词窃取攻击（原文，在新标签页打开）
提出 Prometheus，从展示图反推文生图模型的在售提示词。
论文追踪 · 收录 · 原文 论文精选关注度5353 ASO：用GRPO优化视觉风格放大MLLM越狱攻击（原文，在新标签页打开）
哈尔滨工程大学、山东大学与西安电子科技大学的研究者提出 ASO，用 GRPO 优化视觉风格以放大越狱攻击。
推荐理由论文提出用强化学习优化图像风格来放大现有多模态越狱攻击，并给出跨模型与跨基线的成功率提升数据。
论文追踪 · 收录 · 原文 论文关注度4848 研究者提出意图伪装多轮越狱方法，可攻破 GPT-5-thinking 与 Claude-Sonnet-4.5（原文，在新标签页打开）
提出多轮意图欺骗越狱 iDecep，用良性意图伪装引出有害内容。
论文追踪 · 收录 · 原文 论文关注度4949 研究者提出面向多轮对话的视觉记忆注入攻击 VMI（原文，在新标签页打开）
提出 VMI，用扰动图像在多轮对话中潜伏并仅在触发话题输出预定消息。
论文追踪 · 收录 · 原文 论文关注度5353 VidDoS：针对视频大语言模型的通用拒绝服务攻击（原文，在新标签页打开）
研究者提出 VidDoS，一个面向 Video-LLM 的通用能耗延迟攻击（ELA）框架，通过通用优化生成与实例无关的触发器，无需在推理时计算梯度。
论文追踪 · 收录 · 原文 论文关注度3333 FERRET：基于扩展的多模态自动化红队测试框架（原文，在新标签页打开）
提出 FERRET 框架，用扩展生成多轮多模态越狱对话。
论文追踪 · 收录 · 原文 论文精选关注度6060 AudioHijack 框架对 13 个语音大模型实现隐蔽音频提示注入（原文，在新标签页打开）
提出 AudioHijack，用不可感知对抗音频对语音模型做上下文无关提示注入。
论文追踪 · 收录 · 原文 论文关注度5151 研究者提出 SeedSnitch 与 PromptPirate，利用种子漏洞窃取扩散模型提示词（原文，在新标签页打开）
提出 SeedSnitch 与 PromptPirate，恢复种子后窃取扩散提示词。
论文追踪 · 收录 · 原文 论文关注度4646 研究者提出利用重构与隐藏权衡的多模态大模型越狱方法（原文，在新标签页打开）
提出删字变体越狱方法，利用重构与隐藏权衡绕过多模态模型安全过滤。
论文追踪 · 收录 · 原文 论文关注度4141 研究者提出针对商用多模态大模型的隐蔽视觉提示注入方法（原文，在新标签页打开）
提出 CoTTA 隐蔽视觉提示注入，使多模态模型输出指定指令。
论文追踪 · 收录 · 原文 论文关注度5050 DMN：面向多图输入的多模态大模型组合式越狱框架（原文，在新标签页打开）
提出多图越狱框架 DMN，把有害意图拆进图像序列绕过安全护栏。
论文追踪 · 收录 · 原文 论文关注度3131 Gut-VLM 基准：九种幻觉检测方法在胃肠道内镜 VLM 上的评测（原文，在新标签页打开）
在 Gut-VLM 上评测内镜 VLM 的幻觉检测方法。
论文追踪 · 收录 · 原文 论文关注度5252 研究者提出声学干扰攻击 AIA，可通用越狱 10 个大型音频语言模型（原文，在新标签页打开）
提出声学干扰攻击 AIA，用良性音频潜语义越狱音频语言模型。
论文追踪 · 收录 · 原文 论文关注度5252 ARENA：面向大型音频语言模型的自动化红队框架（原文，在新标签页打开）
提出 ARENA 音频红队框架，自动构造文本安全且音频接地的越狱输入。
论文追踪 · 收录 · 原文 论文关注度5050 研究者提出 FRA-Attack 频域正则化方法，提升对闭源 MLLM 的迁移攻击效果（原文，在新标签页打开）
提出 FRA-Attack，用频域对齐与梯度正则做可迁移定向视觉攻击。
论文追踪 · 收录 · 原文 论文关注度4646 PaperGuard：针对多模态 AI 同行评审的攻击与防御基准（原文，在新标签页打开）
提出 PaperGuard，用图文注入与梯度扰动抬高自动审稿分数并检测恶意指令。
论文追踪 · 收录 · 原文 论文关注度5050 研究者提出信息过载方法越狱大型视觉语言模型（原文，在新标签页打开）
提出 INFER+ 信息过载方法，越狱大型视觉语言模型。
论文追踪 · 收录 · 原文 论文精选关注度5858 CCDF 数据集：Grok Imagine、Veo 3.1、Sora 2 伪造监控录像，十个深伪检测器基本认不出（原文，在新标签页打开）
提出监控深伪基准 CCDF，在统一编码后评测检测器对伪造犯罪事故录像的识别。
推荐理由十个主流深伪检测器在统一画质后仍无法区分前沿商业模型生成的监控录像，暴露了现有评测集与真实威胁之间的差距。
franceinfo · 收录 · 原文 新闻关注度3030 巴黎公立医院 AP-HP 报案：Facebook 上 AI 克隆寄生虫学教授的脸和声音卖「排虫」产品（原文，在新标签页打开）
巴黎公立医院集团（AP-HP）就 Facebook 上三段 AI 深度伪造视频报案并联系 Meta，视频用 Pitié-Salpêtrière 医院寄生虫学专家 Renaud Piarroux 教授的声音和形象推销所谓「排虫」产品，未获其同意，目前已被删除。AP-HP 警告还有其他使用其医院 logo 或白大褂形象的内容在社交平台流传，并强调作为公立医疗机构不在社交媒体上做商业推广，此类内容可能误导网民使用无科学依据的产品，危害患者健康。
Times of India · 收录 · 原文 新闻关注度4848 印度昌迪加尔法院因 AI 伪造政治视频下令 Facebook 暂停三个页面访问（原文，在新标签页打开）
印度昌迪加尔民事法院在一起诉讼中裁定，暂时禁止三个 Facebook 页面发布或传播涉国大党人士 Amandeep Kumar（又名 Amandeep Jaintipura）的 AI 生成内容，并下令 Facebook 在下次听证前关闭“Thanedar uncle”“Kachi laan”“Batale Di Rajneeti”三个页面的公开访问。法院认为这些视频在未经核实事实的情况下刻意损害个人形象，带有超出正常公共批评的政治目的。三个页面分别拥有 2.2K、1.1K 和 11K 关注者，相关内容观看量约为 178K、180K 和 47.8K。Jaintipura 一方称，AI 伪造视频将他塑造成毒贩、反社会分子等负面形象，同时美化执政党 AAP 议员。此令作出时距旁遮普邦议会选举仅数月，是当地选举前第三起同类命令，禁令持续至 10 月 22 日下次听证。
2条报道 ·2个来源
- Bar and Bench印度昌迪加尔法院下令 Facebook 暂停三个传播 AI 伪造政治视频的页面原文
- Times of India印度昌迪加尔法院因 AI 伪造政治视频下令 Facebook 暂停三个页面访问原文
论文追踪 · 收录 · 原文 论文精选关注度5353 FAB 攻击：给 HuBERT/WavLM 植入后门，背景警笛声即可让下游语音任务失灵（原文，在新标签页打开）
提出FAB攻击，向声学基础模型植入可由环境声触发的后门。
推荐理由论文给出在无预训练数据、任务未知条件下对声学基础模型植入后门的方法，并量化了其在九项下游任务和物理场景中的影响。
论文追踪 · 收录 · 原文 论文关注度4141 BabelFake：面向多语言音视频 DeepFake 检测的基准数据集（原文，在新标签页打开）
构建多语言音视频 DeepFake 基准 BabelFake 并评测检测器。
论文追踪 · 收录 · 原文 论文关注度4949 HazardArena：面向 VLA 模型的语义安全评测基准（原文，在新标签页打开）
提出 HazardArena 基准，用孪生场景评测 VLA 的语义安全。
论文追踪 · 收录 · 原文 论文关注度5252 BackdoorVLM：面向视觉语言模型后门攻击与防御的基准（原文，在新标签页打开）
提出 BackdoorVLM 基准，评测视觉语言模型微调中的后门攻击与防御。