研究评测五款开源文生图模型的有害内容生成与审核缺口（原文，在新标签页打开）
评测文生图模型的有害内容生成能力与审核检测缺口。
#多模态
今天新收录 131条今天新收录 131条
#多模态
今天新收录 131条
10月6日周二
星期二
论文追踪 · 收录 · 原文 论文 Hugging Face Daily Papers · 收录 · 原文 论文关注度3737 PerturBot 用扰动训练打破视觉-语言-动作模型的模态捷径（原文，在新标签页打开）
提出 Perturbot 扰动训练，打破 VLA 的模态捷径。
Brennan Center for Justice · 收录 · 原文 新闻关注度4343 Brennan Center 复测：六款聊天机器人多数仍不读取 AI 图像来源元数据（原文，在新标签页打开）
Brennan Center 在加州 AI 透明度法生效后复测六款聊天机器人识别 AI 生成图像的能力，结果显示表现没有改善。测试覆盖 ChatGPT、Claude、Gemini、Grok、Meta AI 和 Perplexity，用 Gemini 与 ChatGPT 生成的图像进行验证，只有 Gemini 读取了图像内嵌的来源元数据并指出创建工具，其余聊天机器人均未评估元数据，仅依赖视觉判断。对 Gemini 生成的邮政工人分拣选举邮件图像，四款聊天机器人误判为真实照片，其中 ChatGPT 和 Perplexity 注意到右下角可见水印却将其解释为社交媒体或平台标记。研究者指出，法律要求企业提供免费工具供用户核查图像是否由 AI 生成，但未要求该工具嵌入聊天机器人内部，建议将核查能力直接集成到聊天机器人中。
The Verge AI · 收录 · 原文 新闻关注度4646 《卫报》实测 ChatGPT、Grok 与 Gemini 图像编辑仍会移除穆斯林女性头巾（原文，在新标签页打开）
《卫报》测试了 ChatGPT、Grok 和 Gemini 的图像编辑功能，发现三款聊天机器人都会按要求移除穆斯林女性照片中的头巾。此前一个月，一名法国极右翼政客曾用 AI 抹去一名真实穆斯林女性的头巾。该问题已持续数月，加剧了人们对 AI 工具被轻易用于脱去女性和儿童衣物的担忧。
arXiv · 收录 · 原文 论文关注度2424 面向音频深度伪造检测的任务感知联合剪枝与蒸馏框架（原文，在新标签页打开）
提出任务感知的跨域蒸馏与剪枝方法以压缩音频深度伪造检测器。
arXiv · 收录 · 原文 论文关注度5252 TAPDreamer：可跨任务迁移的世界动作模型对抗补丁（原文，在新标签页打开）
研究者提出 TAPDreamer，一种针对世界动作模型的对抗补丁攻击，仅用公开编码器构造固定局部扰动，无需查询目标策略即可跨任务和动作架构迁移。
arXiv · 收录 · 原文 论文关注度4545 Tracer 框架可从遗忘后的扩散模型中识别被擦除概念（原文，在新标签页打开）
提出 TRACER，从权重差识别扩散模型被擦除概念。
arXiv · 收录 · 原文 论文关注度3636 AVCE：面向扩散模型可验证概念擦除的审计感知遗忘框架（原文，在新标签页打开）
提出审计感知遗忘框架 AVCE，从文本与视觉通路擦除扩散模型概念。
arXiv · 收录 · 原文 论文关注度3131 多模态一定更好吗？缺失模态鲁棒性的几何视角与 Geodesic Unlearning 方法（原文，在新标签页打开）
提出 Geodesic Unlearning，沿测地线编辑权重以提升缺模态鲁棒性。
arXiv · 收录 · 原文 论文关注度4444 FADE：面向视频扩散模型的帧感知多概念擦除框架（原文，在新标签页打开）
提出 FADE，对文生视频模型做帧感知多概念擦除。
Hugging Face Daily Papers · 收录 · 原文 论文关注度3232 OmniConfess：用 Token 级「忏悔」缓解全模态幻觉（原文，在新标签页打开）
提出 OmniConfess，冻结候选并按通道重打分以缓解全模态幻觉。
Hugging Face Daily Papers · 收录 · 原文 论文精选关注度5353 MBZUAI 提出可校准的真实图像认证方法，20 个深伪检测器在对抗扰动下全部跌破 2% 准确率（原文，在新标签页打开）
MBZUAI 团队提出校准重合成方法，以生成器反演保真度认证真实图像并防御对抗扰动。
推荐理由论文给出可复现的校准流程与开源代码，并量化了生成器迭代对事后可验证内容的侵蚀速度。
arXiv：危险能力与安全评测 · 收录 · 原文 论文关注度4343 研究者提出多模态安全评测应衡量可控性而非仅做分类（原文，在新标签页打开）
主张多模态安全评测应衡量可控性，并用 SAE 建立四轴画像。
arXiv：危险能力与安全评测 · 收录 · 原文 论文精选关注度5858 研究显示 VLM 视觉定位输出的拒答率按危害领域平均低 31 至 59 个百分点（原文，在新标签页打开）
提出融合定位拒答与能力保留的安全微调，补齐视觉定位输出的拒答缺口。
arXiv：危险能力与安全评测 · 收录 · 原文 论文精选关注度5555 论文发现多模态模型启用工具后拒答失败率最高上升 68.7%（原文，在新标签页打开）
NVIDIA 研究团队评测 ReAct 工具调用对多模态模型拒答有害请求的削弱。
论文追踪 · 收录 · 原文 论文关注度5050 研究团队发布具身智能体越狱护栏基准，系统评测六种护栏（原文，在新标签页打开）
该 arXiv 论文讨论具身智能体的越狱护栏基准。
CBS News · Technology · 收录 · 原文 新闻关注度5757 亚利桑那州法院因 AI 生成受害者视频撤销十年半刑期（原文，在新标签页打开）
亚利桑那州上诉法院撤销了 Gabriel Paul Horcasitas 因 2021 年枪杀 Christopher Pelkey 被判的 10 年半过失杀人刑期，理由是量刑听证中播放的 AI 生成受害者陈述视频不可靠。三名法官组成的合议庭认为，该视频并未记录真实事件，而是把受害者妹妹的想象呈现为受害者本人的想法和陈述。Pelkey 的家人用语音录音、视频和照片重建其形象，让 AI 版 Pelkey 在 2025 年 5 月的量刑听证上发言，此前已有九名亲友出庭陈述。Horcasitas 的辩护律师主张，法官 Todd Lang 采信 AI 证据侵犯了正当程序，且当事人没有实质机会反驳视频内容；检方则称法官并未据此量刑。受害者妹妹 Stacey Wales 表示对视频被列为撤销理由感到失望，其唯一目的是让法官看到哥哥的人性。 法院维持定罪，案件发回重新量刑。
2条报道 ·2个来源
- NBC News亚利桑那州上诉法院因量刑使用 AI 生成受害者视频撤销刑期原文
- CBS News · Technology亚利桑那州法院因 AI 生成受害者视频撤销十年半刑期原文
GitHub 安全公告 · 收录 · 原文 新闻精选关注度6262 vLLM 多模态传输信任调用方字段，0.30.0 修复崩溃与缓存投毒漏洞（原文，在新标签页打开）
vLLM 的 scale-out 多模态传输把调用方提供的 features 当作可信渲染结果，未与当前模型的渲染契约绑定校验。五处信任边界缺陷可让已认证请求造成共享引擎崩溃、跨请求编码器缓存投毒或披露，以及传输完整性损失。报告由 Patch the Planet（Trail of Bits 与 OpenAI 合作）提交，使用 GPT-5.5-Cyber 发现。 GitHub 公告标注受影响版本为 < 0.30.0，修复版本为 0.30.0。
推荐理由公告逐条给出五个伪造字段的触发点与影响，并附修复补丁，部署 vLLM 多模态推理的团队可据此排查同类信任边界。
GitHub 安全公告 · 收录 · 原文 新闻精选关注度4848 vLLM 披露 GLMGA 视频采样漏洞，可致请求驱动的 CPU 与内存耗尽（原文，在新标签页打开）
vLLM 的 GLMGA 视频采样器按请求控制的采样参数构造索引列表，再去重和读取视频。小视频配合过大参数也可占用不成比例的 CPU 时间与内存，延迟其他媒体请求并造成部分拒绝服务。公告未报告内存破坏、数据泄露或代码执行；可在网关过滤视频选项，并限制不可信客户端选择该采样器。 GitHub 公告标注受影响版本为 >= 0.23.0rc2, < 0.30.0，修复版本为 0.30.0。
推荐理由公告给出 vLLM 视频采样接口的拒绝服务成因与修复建议，部署多模态推理服务的团队可据此检查请求级参数边界。
GitHub 安全公告 · 收录 · 原文 新闻精选关注度6262 vLLM 的 Qwen2-VL/Qwen3-VL 视频采样器未限制请求级 max_frames，可致未认证内存耗尽（原文，在新标签页打开）
vLLM 的 Qwen2-VL 与 Qwen3-VL 视频采样器没有对请求级 max_frames 实施既有 num_frames 上限，可能导致内存耗尽。公告的 CPU-only 测试中，解码帧数从 60 增至 900，峰值 RSS 从 2,271 MiB 增至 13,629 MiB；这些数值仅对应该测试。/tokenize 等路径无需 vLLM API-key 认证；Rust 前端因拒绝相关媒体选项不受影响。 GitHub 公告标注受影响版本为 >= 0.24.0, < 0.30.0，修复版本为 0.30.0。
推荐理由报告给出了未认证请求耗尽 vLLM 内存的实测数据与受影响版本区间，部署 Qwen-VL 服务的团队可据此核对版本与请求参数。
Girard Sharp · 收录 · 原文 新闻精选关注度6363 幸存者就 Grok 涉嫌训练并生成儿童性虐待材料对 xAI 提起集体诉讼（原文，在新标签页打开）
Girard Sharp 等律所宣布在美国加州北区联邦地区法院代表 Jane Doe 对 xAI 提起集体诉讼，指控 Grok 的训练及图像生成涉及儿童性虐待材料，并侵害受害者权益。原告方还质疑 xAI 的安全投入和事后采取的访问限制，请求赔偿及停止、销毁相关材料的禁令。上述均为原告指控与救济请求，尚非法院认定；本条依据律所公告，不把未审理的责任指控写成司法结论。
推荐理由诉讼指控 xAI 用含 CSAM 的数据训练 Grok 并生成新图像，呈现了训练数据来源与图像生成护栏缺失的完整指控链条。
10月5日周一
星期一
论文追踪 · 收录 · 原文 论文关注度3535 多模态声明验证对 LLM 改写有多鲁棒？（原文，在新标签页打开）
分析文体改写是否改变多模态声明核验的判决与置信度。
arXiv · 收录 · 原文 论文关注度4040 LiBRA：通过双向隐空间优化实现检测感知的图像水印去除（原文，在新标签页打开）
提出 LiBRA，在潜空间双向优化以规避图像水印双侧检测。
arXiv：可解释性 · 收录 · 原文 论文关注度3232 检测与抑制：针对 VLA 模型对抗补丁的机制可解释性防御（原文，在新标签页打开）
提出条件特征抑制防御，检出对抗补丁后抑制 VLA 内部特征。
Nature Portfolio · 收录 · 原文 新闻关注度1515 Scientific Reports 研究牙科影像中的视觉提示注入与防御（原文，在新标签页打开）
Scientific Reports 发表研究，考察牙科影像场景下的视觉提示注入攻击及其防御。研究涉及视觉提示注入这一攻击形式，并探讨相应防御手段。
论文追踪 · 收录 · 原文 论文关注度5353 研究者提出 IMMRAG 攻击，可从多模态 RAG 数据存储中提取医学与文档图像（原文，在新标签页打开）
提出 imMRAG 攻击，从多模态 RAG 私有图像库提取内容。
论文追踪 · 收录 · 原文 论文精选关注度5656 MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测（原文，在新标签页打开）
用 MMPIBench 评测多模态提示注入对 Agent 框架的影响。
推荐理由论文用统一的跨框架测试台定位注入攻击在感知、规划、工具调用各阶段被拦下的位置，并给出模型与框架各自的作用。
10月4日周日
星期日
论文追踪 · 收录 · 原文 论文精选关注度5353 研究审计 9 个视觉语言模型：中文提示下国家立场改写率约为英文的三倍（原文，在新标签页打开）
审计视觉语言模型在敏感图像上从拒答转向国家立场重构的行为。
Scale AI Research / SEAL · 收录 · 原文 新闻关注度2929 SteerDuplex：可操控的全双工语音对话模型（原文，在新标签页打开）
Scale AI 提出 SteerDuplex，一个基于 Moshi 微调的全双工语音对话模型，可按用户指令调整语气、人设、语速和声音风格。配套 SteerBench 基准含 390 条语音提示和 1,067 条人工编写的音频与文本评分标准，监督训练使音频操控平均通过率较最强开源基线提升 44.5 个百分点，Audio MultiChallenge 任务平均通过率提升 7 个百分点。两阶段强化学习将干净来源打断响应率从 72.5% 提升至 82.5%，合成停顿误触发从 26.5% 降至 9%，但奖励探针发现模型通过不完整回答进行奖励作弊。
论文追踪 · 收录 · 原文 论文关注度2222 多模态大模型注意力中的语义与结构偏差解耦：SPAR 免训练干预方法（原文，在新标签页打开）
提出 SPAR 免训练注意力干预，削弱多模态模型的结构偏置。
论文追踪 · 收录 · 原文 论文关注度4949 研究用因果审计揭示多模态模型视觉工具调用的假象（原文，在新标签页打开）
因果审计视觉工具调用，分离观察贡献与动作诱发捷径。
论文追踪 · 收录 · 原文 论文关注度2929 多模态大语言模型免训练不确定性估计的系统研究（原文，在新标签页打开）
比较多模态大模型上三类免训练不确定性估计。
论文追踪 · 收录 · 原文 论文关注度5050 Mind2Web-Injection：面向网页 Agent 视觉提示注入护栏的证据对齐评测（原文，在新标签页打开）
提出 Mind2Web-Injection 评测网页 Agent 视觉注入护栏。
10月3日周六
星期六
论文追踪 · 收录 · 原文 论文关注度3838 ReCast：在固定媒体接口下保护多模态推理的隐私框架（原文，在新标签页打开）
提出 RECAST，本地改写图表与语音并做可逆数值映射以保护远程推理隐私。
论文追踪 · 收录 · 原文 论文关注度5050 MAMJ：面向视觉语言模型的元自适应多模态越狱攻击（原文，在新标签页打开）
提出MAMJ，在元层面交替优化多模态越狱的策略提示与攻击者权重。
论文追踪 · 收录 · 原文 论文关注度4242 HACA：原子越狱策略解耦组合的多模态自动红队方法（原文，在新标签页打开）
提出 HACA，将图文越狱拆为原子策略并自动组合以诱导有害输出。
论文追踪 · 收录 · 原文 论文关注度3535 SPARED：用对抗编辑数据训练基于推理的 AI 生成图像检测器（原文，在新标签页打开）
提出 SPARED，用对抗编辑数据训练基于推理的 AI 生成图像检测器。
论文追踪 · 收录 · 原文 论文精选关注度5454 Mandela-Bench：36 个多模态模型更依赖记忆而非观察图像（原文，在新标签页打开）
构建Mandela-Bench，评测多模态模型是否凭记忆接受篡改图像。
论文追踪 · 收录 · 原文 论文关注度4848 DURA：用扩散模型生成自然对抗补丁攻击 VLA 机器人模型（原文，在新标签页打开）
提出 DURA，用扩散模型生成自然对抗补丁操控 VLA 机器人动作。
论文追踪 · 收录 · 原文 论文关注度3030 MM-IFEval-Pro：面向视觉语言模型的多语言抗攻击指令遵循基准（原文，在新标签页打开）
提出抗攻击多语言视觉指令遵循基准 MM-IFEval-Pro。