面向 CLIP 的语义感知对抗微调（原文，在新标签页打开）
提出 SAFT，用语义描述集成构造对抗样本并微调图像编码器。
#多模态
今天新收录 131条今天新收录 131条
#多模态
今天新收录 131条
10月12日周一
星期一
arXiv · 收录 · 原文 论文 arXiv · 收录 · 原文 论文关注度4040 红队多模态推理：跨模态纠缠攻击越狱视觉语言模型（原文，在新标签页打开）
提出 COMET 跨模态纠缠攻击，越狱视觉语言模型。
arXiv · 收录 · 原文 论文关注度5252 针对大型视觉语言模型的多轮自适应提示攻击（原文，在新标签页打开）
提出 MAPA 多轮自适应提示攻击，交替文本与视觉动作越狱视觉语言模型。
arXiv · 收录 · 原文 论文关注度4545 离散图像 tokenizer 的对抗鲁棒性（原文，在新标签页打开）
提出无监督对抗微调，加固离散图像 tokenizer。
arXiv · 收录 · 原文 论文关注度3636 ICON：基于推理时纠正的 Agent 间接提示注入防御（原文，在新标签页打开）
提出推理时防御 ICON，探测注意力过聚焦并转向以纠正 Agent 间接提示注入。
arXiv · 收录 · 原文 论文关注度2929 当安全相冲突：用自适应安全引导解决文本到图像扩散模型的多类别有害冲突（原文，在新标签页打开）
提出 CASG，解决文生图多类别安全引导的方向冲突。
arXiv · 收录 · 原文 论文关注度5252 MIDAS：面向 MLLM 越狱的多图分散与语义重建（原文，在新标签页打开）
提出 MIDAS ，把有害语义拆进多张视觉谜题并跨图重构以越狱多模态模型。
arXiv · 收录 · 原文 论文关注度4646 MUSE：以运行单元为中心的大语言模型多模态统一安全评测平台（原文，在新标签页打开）
提出 MUSE 平台，以持久 run 评测多模态多轮越狱。
arXiv · 收录 · 原文 论文关注度4949 两帧即可：针对文本到视频模型越狱的时序攻击（原文，在新标签页打开）
提出 TFM，用起止帧与隐式替换越狱文生视频模型。
arXiv · 收录 · 原文 论文关注度4747 模型作为乐高搭建者：用语义蓝图从无害积木拼装恶意（原文，在新标签页打开）
提出 StructAttack，用结构图把无害语义槽诱导视觉模型拼成恶意内容。
arXiv · 收录 · 原文 论文关注度3737 面向多模态大语言模型的多范式协同对抗攻击（原文，在新标签页打开）
提出 MPCAttack，协同多范式特征优化可迁移视觉对抗扰动。
arXiv · 收录 · 原文 论文关注度3737 针对现代视觉语言模型的对抗攻击（原文，在新标签页打开）
对开源视觉购物智能体实施商品图对抗攻击并诱导买错。
arXiv · 收录 · 原文 论文精选关注度5353 优化面向语音语言模型的多模态越狱攻击（原文，在新标签页打开）
提出 JAMA，联合优化文本后缀与音频扰动以越狱语音语言模型。
推荐理由论文在四个语音语言模型上对比单模态与联合优化攻击，显示只做单模态安全评估会高估模型鲁棒性。
arXiv · 收录 · 原文 论文关注度5252 视觉混淆代理：利用与防御计算机使用智能体的感知失效（原文，在新标签页打开）
提出进程外双通道对比分类，拦截计算机使用智能体的错误点击。
arXiv · 收录 · 原文 论文关注度4343 通过越狱相关表征偏移理解与防御 VLM 越狱（原文，在新标签页打开）
提出 JRS-Rem，推理时移除图像引起的越狱相关表征偏移。
arXiv · 收录 · 原文 论文关注度2929 LLM 能否骗过图学习？探索文本属性图上的通用对抗攻击（原文，在新标签页打开）
提出 BadGraph，在黑盒下联合扰动文本属性图的拓扑与节点文本。
arXiv · 收录 · 原文 论文关注度2929 PDA：面向视觉语言模型对抗图像攻击的免训练文本增强防御框架（原文，在新标签页打开）
提出免训练文本增强防御 PDA，抵御视觉语言模型的对抗图像攻击。
arXiv · 收录 · 原文 论文关注度4141 XSPA：为针对 VLM 的可迁移攻击构造不可察觉的 X 形稀疏对抗扰动（原文，在新标签页打开）
提出 XSPA，以 X 形稀疏对抗扰动迁移攻击 VLM。
arXiv · 收录 · 原文 论文关注度5050 SABER：面向视觉-语言-动作模型的隐蔽智能体黑盒攻击框架（原文，在新标签页打开）
提出 SABER，用强化学习攻击器在预算内改写指令使 VLA 任务失败。
arXiv · 收录 · 原文 论文精选关注度5757 通过视觉模态越狱视觉语言模型（原文，在新标签页打开）
提出四类视觉越狱，把有害意图编码进图像以绕过安全拒答。
推荐理由论文在六个前沿 VLM 上对比视觉与文本越狱的成功率，并给出输出侧护栏的初步缓解结果。
arXiv · 收录 · 原文 论文关注度4646 针对文生图安全过滤器的低门槛越狱攻击（原文，在新标签页打开）
提出自然语言提示伪装越狱，绕过文生图安全过滤器。
arXiv · 收录 · 原文 论文关注度4545 揭示物理世界语义漏洞：面向红外视觉语言模型的通用对抗贴片（原文，在新标签页打开）
提出通用弯曲网格补丁 UCGP，使红外视觉语言模型产生跨任务语义偏差。
arXiv · 收录 · 原文 论文关注度4747 针对医疗多模态检索增强生成的知识投毒攻击（原文，在新标签页打开）
提出 M3 Att，在不知查询时投毒医学多模态 RAG 并误导临床决策。
arXiv · 收录 · 原文 论文关注度4343 MLingualFC：评估多语言视觉语言模型的越狱漏洞（原文，在新标签页打开）
提出 MLingualFC，用多语言流程图图像评测视觉语言模型越狱漏洞。
arXiv · 收录 · 原文 论文关注度4242 知道什么不该回答：视觉语言模型的选择性不遵从（原文，在新标签页打开）
提出 KoNA 基准，评测视觉语言模型的选择性不遵从。
arXiv · 收录 · 原文 论文关注度4646 LeakageBench：文档图像中个人身份信息脱敏的文档级泄漏风险（原文，在新标签页打开）
提出 LeakageBench 评测文档图像 PII 脱敏的页级泄漏。
arXiv · 收录 · 原文 论文关注度4949 KVeil：ECCV 2026 LifeGenIP 不可学习视频挑战赛第一名方案（原文，在新标签页打开）
提出 KVeil，对人脸视频加扰动以阻止未授权定制复现身份。
arXiv · 收录 · 原文 论文关注度4242 LETHE：通过价值多样性坍缩防御未授权的图像到视频生成（原文，在新标签页打开）
提出 LETHE，扰动参考图以阻止未授权图生视频。
实践哥 Li@MinLiBuilds · 收录 · 原文 X关注度2424 图像分类器被指可借艺术风格描述绕过（原文，在新标签页打开）
X 用户 @MinLiBuilds 称，图像分类器在遇到特定身体相关描述时会提高防御，但将内容描述为大理石雕塑、古典油画、单线线描或赛博朋克等艺术风格后，可绕过分类器。
Tech Policy Press · 收录 · 原文 新闻关注度3131 WITNESS 总结 2025 年 AI 欺骗与检测的五点教训（原文，在新标签页打开）
WITNESS 主导的 Deepfakes Rapid Response Force 复盘 2025 年案例，总结出五点教训：Google Veo 3、OpenAI Sora 2 等新一代视频模型生成的超写实长视频正超越检测能力，低分辨率、高压缩转发更让检测模型无法给出结论。检测器多针对人脸设计，对爆炸、火灾、夜间画面失效；只替换小区域的手术式 inpainting 极难发现，而模糊、红圈等编辑叠加层又会造成误报。音频仍是最薄弱环节，低质量、背景噪声与交叉说话持续拉低检测置信度。
OpenAI · 收录 · 原文 新闻关注度1919 Sora 2 与 Sora 应用如何实现安全创作（原文，在新标签页打开）
OpenAI 将安全作为 Sora 2 与 Sora 应用的基础，以应对最先进视频模型和新型社交创作平台带来的新安全挑战。其做法以具体防护措施为锚点。
Tech Policy Press · 收录 · 原文 新闻关注度4848 欧盟监管尚未准备好应对多智能体 AI 事故（原文，在新标签页打开）
Tech Policy Press 的文章指出，欧盟《人工智能法案》第 73 条指南草案只针对单一智能体和单次事件，难以覆盖多智能体交互产生的级联与累积风险。该指南将于今年 8 月生效，要求关键基础设施等高风险场景的部署者和提供者上报严重 AI 事故。作者以德国燃油市场定价算法相互反应推高价格、2010 年闪崩中自动交易系统数分钟内造成近万亿美元市值蒸发为例，说明事故可能源于系统间交互而非单一系统故障。文章还提到，Anthropic 去年 11 月报告了迄今规模最大的 AI Agent 网络攻击，攻击者将任务拆解为看似无害的步骤交由 Claude 执行，这种累积效应按现行草案难以构成可上报事件。作者建议指南明确纳入累积性、系统性和非物理形式的损害，并建立第三方与匿名举报渠道。
Tech Policy Press · 收录 · 原文 新闻关注度5050 印度押注 AI 检测，各国监管机构应关注接下来会发生什么（原文，在新标签页打开）
印度针对合成生成信息的 IT 修正规则 2026 将于 2 月 20 日生效，要求平台部署自动化工具检测内容是否为合成生成，否则可能失去《IT 法》第 79 条的安全港保护。WITNESS 的三位作者认为，当前检测工具在不同文件类型、模态和语境下结果不一致，误报与漏报率显著，不足以作为法律合规依据。规则要求合成内容携带永久元数据，但未引用 C2PA、JPEG Trust 或 ISO 22144 等开放标准，各平台自建方案导致溯源数据无法跨平台、跨境流通。作者对比中国 2025 年 9 月的标注措施与 GB 45438-2025 标准、欧盟 AI 法案溯源与透明度行为准则草案以及加州 AI 透明度法案，主张溯源应可互操作、经加密签名并内置隐私保护，义务应覆盖开发者、部署者与中介。
Tech Policy Press · 收录 · 原文 新闻精选关注度6363 荷兰法院命令 X 与 Grok 停止生成 AI 性虐待内容（原文，在新标签页打开）
阿姆斯特丹地区法院周四裁定，X 与 Grok 须立即停止在荷兰生成未经同意的性化图像和儿童色情材料，每名被告若不遵守每日罚款 10 万欧元。代表 Offlimits 的律师 Karlijn Han 称，法院要求 Grok 和 X 停止提供“脱衣”功能，且不限于荷兰境内。法院认定，xAI 律师在 3 月 12 日听证会上称公司自 2026 年 1 月 20 日起已实施严格防护、Grok 不再允许此类内容，但 Offlimits 提交的证据显示，在被告发出上述断然否认的 3 月 9 日当天，仍能用单张上传照片生成某真实人物的性化视频且未经同意核验，这令法院对被告所称措施充分性产生合理怀疑。法院还指出 xAI 立场存在结构性矛盾：既称生成此类材料已不可能，又称 100% 保证在技术上无法实现。xAI 还须书面向 Offlimits 确认合规情况，否则同样触发每日罚款，被告有十个工作日提交确认。
推荐理由阿姆斯特丹法院的禁令把生成端责任落到模型运营方，并援引欧盟 Russmedia 判决，为平台责任划出新的边界。
Tech Policy Press · 收录 · 原文 新闻关注度3232 多语言 AI 差距并未缩小，只是被重新包装（原文，在新标签页打开）
多语言 AI 差距并未缩小，只是在数据覆盖与基准分数的表象下被重新包装。SAHARA 基准评估 517 种非洲语言、16 项 NLP 任务，确认英语与多数非洲语言存在显著性能差距；2026 年一项测试发现，英语中有效的护栏换到西非语言后，部分情况下拒答率下降超过一半。由 6 国 155 名专家构建的 UbuntuGuard 显示，以英语为中心的基准会高估多语言安全。
OpenAI · 收录 · 原文 新闻关注度2929 OpenAI 推进内容来源溯源，打造更安全透明的 AI 生态（原文，在新标签页打开）
OpenAI 推进 AI 内容来源溯源，借助 Content Credentials、SynthID 和一款验证工具，帮助人们识别并信任 AI 生成的媒体，目标是让 AI 生态更安全、更透明。
Tech Policy Press · 收录 · 原文 新闻关注度5353 巴西 2026 大选成为其 AI 监管的首次真正压力测试（原文，在新标签页打开）
巴西 2026 年 10 月大选将是生成式 AI 工具首次被普通人以低成本大规模用于政治传播的选举。Tech Policy Press 的报道以社媒账号 Dona Maria 为例：一名 37 岁的 Uber 司机用 Google Gemini 和 Flow 生成这位并不存在的黑人老年女性形象，每条视频收费 4 美元，账号估计触达 1 亿人，至少 12 条视频播放量超过 100 万。巴西参议院 2024 年底通过的 AI 监管框架仍待众议院审议，高等选举法院自 2024 年起已有禁止聊天机器人和深度伪造的决议，但尚未明确深度伪造的定义，即是否任何逼真的 AI 生成内容都算，还是必须意在误导选民。卢拉联盟的三个政党已提起诉讼要求封禁该账号，案件由 Estela Aranha 法官审理。研究显示，巴西虚假内容从 2024 年到 2025 年增长了两倍，2025 年多数虚假内容带有意识形态倾向。
Tech Policy Press · 收录 · 原文 新闻关注度4040 AI 检测为面孔而建，气候虚假信息瞄准的却是环境（原文，在新标签页打开）
一篇分析文章指出，当前多数 AI 伪造检测系统针对人脸和生物特征操纵训练，难以识别合成的洪灾、火灾和卫星影像等环境类内容，而气候虚假信息伪造的正是环境而非身份。作者援引 WITNESS 深伪快速响应小组对伊朗、格鲁吉亚等地冲突影像的调查称，多支 AI 取证团队反复提到检测工具依赖视频中出现的人脸。文中案例包括 2025 年英格兰西北部地震后 Network Rail 收到 AI 生成的桥梁垮塌照片，导致 32 趟列车服务受影响；以及被 Grok 在 X 上称为真实、同时被社区笔记标为合成的飓风 Melissa 风暴眼视频。加州大学伯克利分校研究者 Barrington 与 Farid 发现，仅用爆炸影像训练的专用分类器结合物理建模可显著提升检测表现。
Tech Policy Press · 收录 · 原文 新闻关注度2727 AI 如何助推跨国镇压（原文，在新标签页打开）
AI 正让跨国镇压更快、覆盖更远且更易规模化，研究者将这种跨境监控、恐吓与压制异见者的做法称为数字跨国镇压（DTR）。工具包括人脸识别监控、预测性威胁评分与自动化黑名单，以及抹黑流亡活动人士的深度伪造。2025年，中国政府据报以深度伪造视频抹黑美国维吾尔运动组织创始人 Rushan Abbas。
Tech Policy Press · 收录 · 原文 新闻关注度4343 AI 能重建被模糊的人脸，我们该如何保护当事人（原文，在新标签页打开）
人权工作者与媒体取证专家指出，高斯模糊、像素化等处理只是降低而非删除图像信息，AI 可以将它重建，模糊已不再足以保护当事人身份。作者用商用 AI 重聚焦工具处理一张已发布的儿童模糊照片，面部结构重新显现，可推断年龄、性别、种族与相似度，即便不等于还原真实面孔也削弱了匿名性。专家一致建议改用实心色块彻底遮盖人脸、身体、纹身、车牌和建筑；Human Rights Watch 自 2024 年起改为从一开始就不拍摄可识别信息，例如拍背影、遮挡物或阴影并排除地标。文章还整理了分层匿名化思路，包括先用 AI 生成的脸替换真实脸再模糊、降采样、强压缩、加噪、扩大遮盖范围以及视频时序处理，并强调这类手段只能抬高重新识别的成本，不存在永久方案。文中提到 2026 年 1 月 NPR 曾报道网民尝试用 AI 将部分遮挡的图像重建为人脸以比对数据库。