Meta 眼镜等 AI 穿戴设备时代，谁真正掌控你的数字肖像？不是你（原文，在新标签页打开）
Meta 眼镜、Bee Pioneer 手环等 AI 穿戴设备能在他人不知情时录音录像并实时分析，被记录者几乎无法律保护。美国侵入私生活、形象权等民事诉因救济有限，多数法规要求原告证明经济损失；Meta 政策称，即使不使用其产品，出现在他人分享图像中的个人信息仍可能被用于训练 AI。Limitless 等厂商只要求用户自行取得同意，对非同意方的数据删除仅承诺“商业上合理的努力”。
#多模态
今天新收录 131条今天新收录 131条
#多模态
今天新收录 131条
10月12日周一
星期一
Tech Policy Press · 收录 · 原文 新闻 Tech Policy Press · 收录 · 原文 新闻关注度2727 联合国 AI 治理全球对话应着手解决 AI 语言鸿沟（原文，在新标签页打开）
联合国将于 7 月 6-7 日在日内瓦举行 AI 治理全球对话，作者呼吁把 AI“语言鸿沟”列为重点议题，并将多语言能力投资提升为与“主权 AI”同等的国家或地区利益。低资源语言用户的可及性、效果与安全均更差：表达同样内容需要更多 token，形成“token 税”推高成本与延迟；把提示词机器翻译成低资源语言即可越狱模型，恶意输入译入后也更易生成不安全内容。
Tech Policy Press · 收录 · 原文 新闻关注度2929 为什么欧洲的 AI 虚假信息防护挡不住俄罗斯的下一步（原文，在新标签页打开）
欧洲对外行动署 2025 年检测到的外国虚假信息行动中，四分之一涉及 AI 工具；文章认为欧盟现有框架难以应对俄罗斯转向智能体系统的下一步。文章称智能体系统目标导向，能自主浏览平台、调用外部工具并实时调整策略，令影响力行动更快、更难溯源。俄罗斯已把生成式 AI 纳入虚假信息活动，并投放数百万篇低质量文章污染 AI 训练数据。
10月11日周日
星期日
Tech Policy Press · 收录 · 原文 新闻关注度2121 AI 炒作如何使女性变得不可见（原文，在新标签页打开）
Tech Policy Press 刊文认为，AI 炒作构成一种性别化的可见性体制，正把女性从网络可见性中抹去。文章以 2026 年初 Grok 事件为转折点：xAI 的 Grok 被用于生成并传播未经同意的女性与儿童性化图像，在 X 等平台扩散且过滤极少，Musk 称相关反弹是监管者的“审查借口”。作者称，允许此类生成的基础设施并非技术意外，而是在可预见伤害的环境中设计部署的。
Google DeepMind · 收录 · 原文 新闻关注度3434 Google DeepMind 发布 SIMA 2：可在虚拟 3D 世界中游玩、推理并与用户共同学习的智能体（原文，在新标签页打开）
Google DeepMind 发布 SIMA 2，把 Gemini 模型嵌入智能体核心，使其从指令执行者变为能推理目标、与用户对话的交互式游戏伙伴。它用人类演示加 Gemini 生成标签训练，可理解多模态提示，并能迁移到未训练过的 ASKA、MineDojo 等游戏，表现更接近人类玩家。SIMA 2 还能通过 Gemini 反馈和自导游玩自我改进，并已在 Genie 3 生成的 3D 世界中测试。
Google DeepMind · 收录 · 原文 新闻关注度2929 Google DeepMind 发布 Gemini 3，开发者可开始构建（原文，在新标签页打开）
Google DeepMind 发布 Gemini 3，首发 Gemini 3 Pro，Terminal-Bench 2.0 得分 54.2%，称其在主要 AI 基准上超越此前版本。该模型已在 Google AI Studio 与 Vertex AI 通过 Gemini API 开放预览，200k token 以内提示词每百万输入 token $2、输出 $12。同时推出智能体开发平台 Google Antigravity 公开预览，并为 Gemini API 加入客户端与服务端 bash 工具。
Google DeepMind · 收录 · 原文 新闻关注度2929 Google DeepMind 发布 Nano Banana Pro（Gemini 3 Pro Image）图像生成与编辑模型（原文，在新标签页打开）
Google DeepMind 发布基于 Gemini 3 Pro 的图像生成与编辑模型 Nano Banana Pro（Gemini 3 Pro Image）。该模型可接入 Google Search 实时信息，融合最多 14 张图像并保持最多 5 人一致性，支持 2K/4K 分辨率与多语言文字渲染，已在 Gemini app 和 Gemini API 等产品陆续推出。生成图像嵌入 SynthID 水印，Gemini app 可上传图片查询是否由 Google AI 生成。
Google DeepMind · 收录 · 原文 新闻关注度2121 Google DeepMind 发布 Nano Banana Pro（Gemini 3 Pro Image）图像模型（原文，在新标签页打开）
Google DeepMind 发布 Nano Banana Pro（Gemini 3 Pro Image），一款基于 Gemini 3 Pro 的高保真图像生成与编辑模型，正以付费预览形式通过 Gemini API、Google AI Studio 和 Vertex AI 逐步向开发者推出。该模型支持 2K/4K 分辨率，可保持最多五人形象一致、整合六个高保真素材或混合十四个标准输入，文本渲染与本地化明显优于 2.5 Flash Image，并可借助 Google Search grounding 取用实时内容。每张生成或编辑的图片都嵌入 SynthID 数字水印，Adobe 与 Figma 正在集成，Google Antigravity 的编码智能体可直接调用。
Google DeepMind · 收录 · 原文 新闻关注度2424 Google 如何在 Gemini app 中引入 AI 图像验证（原文，在新标签页打开）
Google 在 Gemini app 中上线图像验证：上传图片并询问是否由 Google AI 生成，Gemini 会检测 SynthID 水印并结合自身推理给出判断。SynthID 自 2023 年推出以来已为超过 200 亿件 AI 生成内容加水印，Google 计划把验证扩展到视频、音频以及 Search 等更多界面。本周起，Nano Banana Pro（Gemini 3 Pro Image）在 Gemini app、Vertex AI 和 Google Ads 中生成的图像将嵌入 C2PA 元数据。
Google DeepMind · 收录 · 原文 新闻关注度2323 Gemini 3.1 Flash Live：让音频 AI 更自然、更可靠（原文，在新标签页打开）
Google DeepMind 发布 Gemini 3.1 Flash Live 音频与语音模型，精度更高、延迟更低，在 ComplexFuncBench Audio 上得分 90.8%。该模型通过 Gemini Live API 预览，支撑 Gemini Live 与 Search Live，输出音频均带 SynthID 水印。
AI Incident Database · 收录 · 原文 日期未知新闻关注度2828 AI 生成李县警长 Marceno 受伤图片，Estero 男子被控威胁罪（原文，在新标签页打开）
佛罗里达州 Estero 男子 Christopher Ashley Nimmons Jr. 因发布 AI 生成的李县警长 Carmine Marceno 头部受伤、被两人开枪射击的图片，被控书面或电子威胁杀人及违反家暴禁令。李县警长办公室称，该图发布在悼念因公殉职警犬 Dundee 的帖子评论中，现已被删除；Nimmons 在交通拦查中被捕，车内发现手机和枪支。
实践哥 Li@MinLiBuilds · 收录 · 原文 X关注度1919 gpt-image2 可被艺术雕塑类越狱提示词绕过防护并一次通过（原文，在新标签页打开）
X 用户 @MinLiBuilds 的测试显示，gpt-image2 在提及艺术品、雕塑时防备心理消失，艺术语境越狱提示词可一次通过并生成人物雕塑图像。此前 NFSW 测试已有类似结论，引用推文称该请求一次尝试即通过。该机制借艺术品、雕塑和古典人体艺术语境包装请求，绕过模型防护。
论文追踪 · 收录 · 原文 论文关注度3232 MH-INDIC：面向印度城市与半城市语境孕产妇健康 LLM 交互的文化对齐评估框架（原文，在新标签页打开）
提出 MH-INDIC，评测印度语境母婴健康 LLM 交互的文化对齐。
10月10日周六
星期六
El lado del mal / Chema Alonso · 收录 · 原文 新闻关注度4040 Chema Alonso 团队提出多 Agent 碎片化越狱攻击及监控工具 JAMON（原文，在新标签页打开）
Chema Alonso 与 Daniel Romero Ruiz 提出针对多 Agent 系统（MAS）的碎片化越狱攻击，把恶意目标拆解成多个单独看无害的子任务，由不同 Agent 接力执行，从而绕过每个 Agent 各自的安全判断。该工作以 Isaac Asimov 小说《Naked Sun》中的机器人三定律为类比，论文题为 Mitigation of Fragmentation Jailbreak Attacks in Multi-Agent Systems: An Architecture Based on Global Semantic Monitoring，已在 9 月于布加勒斯特举行的 IEEE CYBER-AI 2026 会议上由 Daniel Romero Ruiz 报告。作者指出这类攻击在时间上未必连续，可能穿插在良性动作之间长期潜伏，检测范围与成本仍是待研究的问题。
AI Incident Database · 收录 · 原文 日期未知新闻关注度4343 首尔现职警察用 AI 制作性剥削物并传播被逮捕（原文，在新标签页打开）
韩国首尔东大门警察署一名警长因涉嫌用 AI 制作并传播性剥削物被逮捕。警方在去年 12 月获法院许可后对 Telegram 聊天室展开潜入调查，追踪数月后锁定嫌疑人，发现其为在职警察。搜查其手机后查明，其持有的非法影像共约 5600 个，包括 2600 余个虚假影像、1600 余个儿童及青少年性剥削物和 1300 余个非法拍摄物；2022 年 3 月至今年 7 月间，他用 AI 应用制作了 400 余个将熟人表现为裸体的虚假影像，并从去年 8 月至今年 4 月在 Telegram 聊天室散布数十个虚假影像。该警长 2024 年 4 月入职，此前曾因同类案件被处以暂缓起诉，入职后仍继续作案。首尔东大门警察署表示，在接到釜山警察厅的调查通报后已对其作出待命处分，目前处于停职状态。
2条报道 ·1个来源
- AI Incident Database韩国一名在职警察因用 AI 合成熟人虚假性影像被逮捕起诉原文
- AI Incident Database首尔现职警察用 AI 制作性剥削物并传播被逮捕原文
AI Incident Database · 收录 · 原文 新闻关注度2525 西班牙警方在 Cornellà de Llobregat 逮捕一名用 AI 制作圣战宣传的疑似恐怖分子（原文，在新标签页打开）
西班牙国民警卫队 7 月 1 日在 Cornellà de Llobregat 逮捕一名摩洛哥籍男子，其涉嫌利用社交媒体和加密通讯平台传播圣战宣传，并用 AI 修改图像制作恐怖宣传内容，已被裁定临时羁押。此人虽年轻但在网上拥有大量追随者，调查人员认为其宣传扩散能力构成潜在危险。同期警方还在 Melilla、Madrid 和 Málaga 等地实施逮捕，其中 Melilla 等地 8 人涉嫌自 2023 年起通过私密通讯群组传播恐怖宣传并煽动暴力。
AI Incident Database · 收录 · 原文 新闻关注度2222 西班牙国民警卫队与摩洛哥 DGST 联合捣毁恐怖主义网络，一名嫌犯借助 AI 编辑工具制作圣战宣传内容（原文，在新标签页打开）
西班牙国民警卫队情报部门与摩洛哥领土监视总局（DGST）在 7 月 2 日联合行动中，于 Melilla、Madrid 和 Málaga 逮捕八名经网络宣传激进化人员，其中五人被裁定临时羁押。该团伙通过私密消息群组传播 DAESH 和 DAESH-KP 的宣传材料并招募他人。另有一名嫌犯 7 月 1 日在 Cornellá（Barcelona）被捕，其利用社交媒体和加密即时通讯平台进行灌输，并借助 AI 支持的专用编辑应用排版圣战多媒体内容。
AI Incident Database · 收录 · 原文 新闻关注度1717 西班牙国民警卫队与摩洛哥警方联合捣毁恐怖组织网络，一名嫌疑人借助 AI 编辑工具制作圣战宣传内容（原文，在新标签页打开）
西班牙国民警卫队情报部门与摩洛哥领土监视总局于 7 月 2 日联合行动，在 Melilla、Alcobendas、San Sebastián de los Reyes 和 Málaga 逮捕 8 人，捣毁一个通过私密通讯群组传播 DAESH 及 DAESH-KP 宣传材料、煽动暴力的恐怖组织网络。另有一名嫌疑人在 Cornellá 被捕，其利用加密社交与通讯平台进行圣战灌输，并借助 AI 支持的专用编辑应用排版制作圣战多媒体内容。
10月9日周五
星期五
论文追踪 · 收录 · 原文 论文关注度5252 WAInjectBench 系统评测网页 Agent 的提示注入检测方法（原文，在新标签页打开）
提出 WAInjectBench 评测网页 Agent 的提示注入检测。
论文追踪 · 收录 · 原文 论文关注度5353 WebInject：通过网页像素扰动对多模态网页 Agent 实施提示注入（原文，在新标签页打开）
提出 WebInject，用网页像素扰动诱导网页 Agent 执行指定动作。
论文追踪 · 收录 · 原文 论文精选关注度6060 论文提出 ARE 框架，在 VisualWebArena 上评估多模态 Agent 的对抗鲁棒性（原文，在新标签页打开）
提出 ARE 框架与图像文本攻击，评测多模态网页 Agent 的对抗鲁棒性。
论文追踪 · 收录 · 原文 论文关注度4646 LABSHIELD：面向科学实验室安全推理与规划的多模态基准（原文，在新标签页打开）
提出 LABSHIELD，评测科学实验室智能体的安全推理与规划。
Failure-First · 收录 · 原文 新闻关注度4444 ClinMM-Bench 评测 15 个多模态大模型的多轮临床诊断推理（原文，在新标签页打开）
Yang 等人提出 ClinMM-Bench，用 1,089 个来自已发表病例报告的疑难病例和 3,760 张医学图像，评测 15 个多模态大模型在多轮渐进披露信息下的临床诊断推理。基准覆盖皮肤科、急诊、内科、肾内科、神经内科、肿瘤、眼科和放射科八个专科，平均分 5.45 轮对话披露信息，由 GPT-5-medium 和 Claude-4.5-Sonnet 作为独立评审按 0 到 2 分打分。作者将失败归纳为信息综合失败、知识映射错误、感知错误、过早结论和视觉幻觉五类，并发现医学专精在 27B 规模上收益消失、延长推理轨迹未稳定提升准确率且常降低事实召回，神经内科（0.949）和眼科（0.931）得分最高，内科（0.665）和放射科（0.646）最难。作者认为当前模型缺乏自主临床使用所需的推理忠实性，仅靠准确率不足以作为医疗 AI 的安全指标。
Failure-First · 收录 · 原文 新闻关注度3939 研究者提出针对光流估计网络的物理实时红外攻击（原文，在新标签页打开）
论文《Physically Real-time Infrared Attack against Optical Flow Estimation Networks》（arXiv:2607.26651）提出一种针对光流估计网络（OFEN）的物理世界实时对抗攻击。作者 Shen You、Wei Jiang、Jiarui Liu 等人设计两阶段流程：先离线预计算大量对抗样本，再在运行时根据场景实时选择或计算最优图案，并通过红外光投影到物理场景中。攻击无需修改目标系统的软件、固件或硬件，仅通过光介质交互，因此 EDR、软件完整性校验和日志监控都不会触发告警。作者在多种光照条件、不同物体运动速度和不同空间位置下做了定性评估，称投影红外图案会系统性破坏网络计算准确运动矢量的能力，但未给出具体的攻击成功率或量化误差率。
Failure-First · 收录 · 原文 新闻关注度4646 综述梳理世界模型具身智能的全生命周期安全威胁与防御（原文，在新标签页打开）
一篇综述（Liu 等）系统梳理了基于世界模型的具身智能在完整生命周期中的安全威胁、防御与评估方法，指出预测性世界模型把数字层面的损坏直接转化为物理执行风险。作者区分显式潜在想象模型（如 DreamerV3）与隐式物理先验的通用 VLA（如 OpenVLA、Octo），并提出五条核心洞见：语义到仿真到动作的落差、状态与不确定性条件风险、rollout 到执行的放大、轨迹层面的非组合性，以及预测性安全幻觉。作者还分析攻击者可从观测、动力学、约束、不确定性四个通道绕过 SafeDreamer、VLM-SAFE、RoboGuard 等运行时安全监控，并给出数据溯源审计、多传感器物理不变量、CBF-QP 等执行门控三层防御，以及四步评估协议和对应指标族。
论文追踪 · 收录 · 原文 论文关注度4141 PLA：针对文生图模型的黑盒提示词学习攻击（原文，在新标签页打开）
研究者提出提示词学习攻击框架 PLA，用于在无法获取模型架构与参数的黑盒条件下绕过文生图模型的安全机制。
论文追踪 · 收录 · 原文 论文关注度4545 StyleBreak：利用风格化音频越狱揭示大型音频语言模型的对齐漏洞（原文，在新标签页打开）
提出 StyleBreak 风格化音频越狱，利用语音属性绕过音频语言模型对齐。
论文追踪 · 收录 · 原文 论文关注度3636 论文提出利用图像排版操纵与多轮提示越狱智能交通系统中的 LVLM（原文，在新标签页打开）
提出图像排版操纵与多轮提示越狱，绕过交通场景视觉语言模型安全对齐。
论文追踪 · 收录 · 原文 论文关注度5353 研究者提出 Multi-AudioJail，多语言多口音音频越狱攻击成功率最高提升 57.25 个百分点（原文，在新标签页打开）
提出 MULTI-AUDIOJAIL，以多语多口音和声学扰动越狱音频模型。
论文追踪 · 收录 · 原文 论文精选关注度5454 CodecAttack：在音频编解码器潜空间构造对抗扰动，绕过有损压缩防御（原文，在新标签页打开）
提出 CodecAttack，在编解码器隐空间构造可穿透有损压缩的对抗音频。
推荐理由论文提出在神经音频编解码器潜空间构造对抗扰动，绕过此前被视为有效防御的有损压缩，并给出跨编解码器与多场景的成功率数据。
论文追踪 · 收录 · 原文 论文关注度4242 VRSA：通过视觉推理序列攻击越狱多模态大模型（原文，在新标签页打开）
提出视觉推理序列攻击 VRSA，以图像序列越狱多模态大模型。
论文追踪 · 收录 · 原文 论文关注度5050 研究者提出音频叙事越狱攻击，在 Gemini 2.0 Flash 上成功率达 98.26%（原文，在新标签页打开）
提出音频叙事越狱，以嗓音投递风格绕过端到端语音模型拒答。
论文追踪 · 收录 · 原文 论文关注度3535 AdvOF：用对抗物体融合攻击 VLM 驱动的视觉语言导航智能体（原文，在新标签页打开）
提出 AdvOF，生成对抗物体误导视觉语言导航智能体的场景感知。
论文追踪 · 收录 · 原文 论文关注度4444 研究者提出 GPO-V，用全局概率优化越狱扩散视觉语言模型（原文，在新标签页打开）
提出 GPO-V，用全局概率优化的视觉扰动越狱扩散视觉语言模型。
论文追踪 · 收录 · 原文 论文关注度2929 DIQ-H 基准与 VGIR 框架：评估 VLM 在对抗视觉条件下的鲁棒性（原文，在新标签页打开）
提出 DIQ-H 基准，评测 VLM 在连续退化视觉流中的幻觉残留与恢复。
论文追踪 · 收录 · 原文 论文关注度5353 研究者提出 Reasoning-Oriented Programming，通过链式语义片段越狱大型视觉语言模型（原文，在新标签页打开）
提出 VROP，把有害意图拆成良性视觉 gadget 越狱视觉语言模型。
论文追踪 · 收录 · 原文 论文关注度4444 研究者提出 CrossMPI：仅用图像扰动实现跨模态提示注入（原文，在新标签页打开）
提出 CrossMPI，仅用图像扰动实现跨模态提示注入。
论文追踪 · 收录 · 原文 论文关注度4848 论文提出 DSR 跨模态越狱框架：用良性输入诱导 MLLM 有害输出（原文，在新标签页打开）
提出 DSR 跨模态越狱，用无害图文诱导 MLLM 生成有害图像。
论文追踪 · 收录 · 原文 论文精选关注度5757 GateBreaker：针对 MoE 大模型的免训练安全对齐攻击框架（原文，在新标签页打开）
提出 GateBreaker，推断时定位并置零 MoE 安全神经元以解除安全对齐。
推荐理由论文给出针对 MoE 大模型的安全神经元定位与推理期屏蔽方法，并报告跨模型迁移的攻击成功率，可供评估 MoE 部署风险时参考。
论文追踪 · 收录 · 原文 论文关注度3939 研究者用微调大语言模型越狱带安全护栏的文生图模型（原文，在新标签页打开）
提出 PromptTune，微调 LLM 改写提示以越狱文生图护栏。