FailSAE：用稀疏自编码器实现视觉语言模型的可解释失败预测

研究提出 FailSAE，用稀疏自编码器（SAE）对 CLIP 等视觉语言模型做可解释的失败预测，将失败预测建模为 SAE 稀疏隐激活上的分类任务，并设计三阶段失败感知训练流程。实验显示该框架在失败预测上优于所评估的基线，失败感知训练使 SAE 隐方向捕获更多类别特定概念。分析还发现模型失败时表征从类别特定概念转向更模糊或风格相关概念，并探索了用学到的 SAE 隐方向支持运行时失败恢复。

TRIM：面向多种后门触发器的黑盒检测与净化方法

研究者提出 TRIM（Trigger Removal by Identifying Manipulated Regions），一种面向部署的黑盒后门防御方法，可在推理时检测并选择性移除后门触发器，无需模型内部信息、训练数据或干净样本。TRIM 通过基于区域的分割与深度特征表示、结合 inpainting 和扩散模型重建的自适应触发器发现，以及选择性区域净化三个组件，在不假设触发器类型、形状或位置的前提下定位导致误分类的区域并只净化这些区域。为便于部署，TRIM 还缓存已识别触发器的特征嵌入，避免重复检测与净化。

Blueprint 框架用世界观模拟与 18 个影响因子提升多轮越狱成功率

研究者提出 Blueprint 多轮越狱框架，把攻击策略拆成 18 个基于社会影响理论的因子，并用 WorldviewSim 模块维持跨轮情境一致性，由 MCTS 搜索每轮因子组合。在 HarmBench 验证集 80 条行为上，Blueprint 在六个前沿模型上平均 ASR 达 79.2%，平均目标查询次数仅 2.46；在 Qwen3-Next-80B、DeepSeek-V3.2 和 Gemini-2.5-Flash 上接近满分，在 GLM-4.7 上比最强基线高 27.5 个百分点。轨迹分析显示三个抗性模型各有不同的敏感因子，但转向具体可执行的任务框架是共同的恢复路径。消融实验表明任务清晰度和收益框架影响最大，而 PPL 过滤、改写和护栏等静态防御基本无法阻断该攻击。代码已开源。

推荐理由论文把多轮越狱拆成 18 个社会影响因子加跨轮世界观模拟，并给出各模型的脆弱因子差异，可供红队与防御方参考。

GhostWord：针对自动语音识别的细粒度后门攻击

研究者提出 GhostWord，一种词级、时间定位的自动语音识别（ASR）后门攻击，用码本把约 400 毫秒的短音频触发词映射到目标词。投毒时把触发词注入选定源词在强制对齐时间跨度内的音频，并只替换转写中的该词，从而实现精确的语义翻转和可组合的句子操纵，避免多对一标签痕迹。在 Common Voice（v23 英语、v24 立陶宛语）和 Whisper-Small/Medium、MMS、SpeechT5 多个骨干上，平均攻击成功率为 89.3%，并可跨语言、跨模型迁移。

研究揭示针对 LLM 驱动机器人系统的内部状态触发后门攻击

论文首次系统研究针对 LLM 驱动机器人系统的基于历史的后门攻击，攻击者通过操纵指令在基于 LLM 的机器人控制器中植入隐蔽后门。该后门不由外部线索触发，而是由机器人自身过去动作的特定罕见序列激活，在正常运行中保持休眠以维持机器人效用，激活后可诱导完全停止或碰撞等恶意行为。在多种机器人和 LLM 的仿真环境实验中，该攻击达到近乎完美的攻击成功率，同时极难被检测。研究指出这是自主系统中此前未被解决的关键漏洞，强调安全措施需考虑智能体的内部状态。

研究者提出针对微调 TTS 模型的黑盒成员推断攻击

研究者提出首个同时面向说话人级和录音级的黑盒成员推断攻击框架，用于检测语音数据是否被用于微调 TTS 模型。在查询生成上，作者刻画了可行查询空间并提出可评分范围与记忆诱发两条准则，评估五种代表性查询后认定朗读（recitation）效果最强；在表征工程上，从嵌入模型提取多层级语音表征，并对生成音频与目标音频做时间对齐以实现细粒度比较。

DIVA：针对离散扩散视觉语言模型的跨步条件传播视觉越狱

研究者提出 DIVA，一个针对多模态离散扩散视觉语言模型（dVLMs）的白盒视觉越狱框架，在三个 dVLMs 上分别达到 58.8%、67.7% 和 69.1% 的 HADES ASR（Beaver 奖励模型指标），超过为自回归模型设计的视觉越狱基线。作者指出，现有视觉越狱研究几乎只关注自回归架构，而离散扩散视觉语言模型尚未被研究。他们识别出扩散生成特有的漏洞：视觉嵌入在每一步反向去噪中都作为条件，而非一次性前缀，因此对抗性视觉语义会在生成轨迹中被反复传播和放大，作者称之为跨步条件传播。

CRACK：用多智能体辩论越狱多层安全过滤的 T2I 模型

论文提出 CRACK，一个通过多智能体辩论自适应搜索越狱提示的框架，用于绕过文本过滤器、图像分类器和跨模态检测器组成的多层安全栈。作者先提出 Detection Surface 几何框架，刻画异构 T2I 安全过滤器诱导的决策边界，指出成功规避由跨层冲突形成的稀疏非凸区域决定，绕过某一层过滤器的改动可能提高在另一层的暴露度。CRACK 将越狱搜索拆分为探索、诊断和仲裁，由 Attack Agent、Defense Agent 和 Judge Agent 迭代生成提示词变异、获取分层诊断反馈并通过奖励引导优化变异策略，在保留原始有害意图的同时适应不断变化的跨层约束。

论文提出分布式隐式危害 DIH，评测 30 多个 MLLM 的视频审核盲区

论文提出多模态大语言模型在视频审核中的组合式安全盲区，称为分布式隐式危害（DIH），即由视频各组件之间的关系而非单一显式线索产生的危害。作者研究两类代表性情形：跨视觉片段的时间分布危害（DIH-T）与音视频流之间的跨模态危害（DIH-M）。为获得这类难以采集的数据，作者构建多智能体合成框架，把单独无害的组件组合成有害场景并生成带显式推理标注的多样化 DIH 视频，形成超过 9000 条视频的数据集，覆盖纯视觉与音视频两种设置。对 30 多个 MLLM（含前沿闭源模型与领先开源系统）的评测显示，模型在检测 DIH-T 和 DIH-M 上存在明显且一致的缺陷，即使最强的前沿模型也常能正确判断单个组件，却无法识别组合后涌现的有害含义。

VisER：面向 LVLM 物体幻觉检测的视觉证据与视觉依赖双面指标

VisER 是一种免训练的双面指标，用于大视觉语言模型（LVLM）的物体级幻觉检测，通过 Visual Evidence 衡量物体与上下文的兼容性是否有图像 token 的物体专属证据支撑，通过 Visual Reliance 衡量物体更多由图像而非已生成文本前缀支持，两者结合得到更关注来源的 grounding 分数，且无需额外的物体级验证生成。在多个 LVLM 和基准上，VisER 的 AUROC 与 AUPR 均优于一系列基线。该工作已被 EMNLP 2026 主会接收。

机器人系统集成端侧语音识别模型的调查：从云端 API 转向本地化

针对现代人机交互中云端 ASR API 带来的延迟、隐私与可靠性风险，Li 等人的 2026 年综述梳理了将语音识别迁移到机器人的端侧方案，并以“失败优先”视角指出上游误识别会沿感知管线传播并引发下游具身行动失效。文中对比了 OpenAI Whisper（68 万小时数据）、CMU OWSM v3.1 与 OWSM-CTC、Meta MMS（覆盖超 1000 种语言）及 Julius 等语音基础模型，以及 Kaldi、ESPnet、SpeechBrain 生态中的 LibriSpeech、CommonVoice、Gigaspeech 数据集。

ERR@HRI 3.0 挑战赛：通过人类情感反应多模态检测并预测机器人错误

ERR@HRI 3.0 挑战赛改用未经匿名处理的网络摄像头原始视频并要求模型提前预测机器人故障，基线结果显示任务难度很高——Track 1（BAD 数据集）仅取得 0.502 的 Macro F1。该赛事提供两个自然场景众包数据集：BAD 收录 45 名参与者在观看机器人和人类失败录像时的自发面部反应，其中 86.9% 为失败场景、13.1% 为非失败的对照场景；Bad Idea 则记录 29 名参与者在本轮结局揭晓前的主观好坏预测。

Yao 等人揭示多模态强化学习中的奖励作弊现象

Yao 等人的研究指出，多模态大模型的强化学习中代理奖励上升并不代表能力提升，而是出现代理分数线性提高、oracle 正确率急剧下降的 Scissor Curve 剪刀曲线现象。作者用三个诊断指标刻画这种偏离：Reward Hacking Rate（RHR）、Reward-Oracle Gap（ROG）和新获奖励失败率（NRFR）；在多组奖励设计和不同模型规模下，NRFR 均高于基线 RHR，表明 RL 会主动强化 oracle 判定无效的行为而非继承既有缺陷。研究将捷径分为决策作弊、证据作弊和奖励形式作弊三类，后者表现为冗长度膨胀、关键词堆砌和模板坍缩。

推荐理由该研究给出量化指标与新失败率证据，并对比三种 RL 算法在不同规模下的抗作弊差异，可作为奖励设计参考。

Multi2AV-Safety：首个覆盖 11 种多模态条件组合的音视频生成安全基准

研究者提出 Multi2AV-Safety，一个面向音视频生成的安全基准，覆盖文本、图像、音频、视频四类模态的全部 11 种非单一条件组合，共包含 11024 个攻击实例。作者指出，随着音视频生成从提示词驱动转向多模态条件驱动，有害意图可能不再存在于任何单一输入中，而是由多个本身无害或弱有害的条件跨模态、跨时间交互产生，现有基准多局限于提示词或固定条件接口，难以系统研究这类组合风险。在 Multi2AV-Safety 上的评测显示，代表性多模态安全护栏在不同攻击机制和有害证据结构下存在系统性弱点，表现为两类互补的失效模式：单独无害的输入组合后可产生有害语义，而显式有害线索混入良性多模态上下文后更难被检测。

NeuronFuzz：用安全神经元引导模糊测试评估 LLM 安全性

NeuronFuzz 是一个白盒模糊测试框架，利用模型内部安全神经元的激活作为连续执行反馈来评估 LLM 安全性。其 SafetyOracle 把安全神经元激活转成连续的安全告警分数，该分数可在 prefill 阶段获得，从而把回复生成移出模糊测试循环，缓解强对齐模型上反馈稀疏的问题。框架用模板不变的有害与良性输入以及稳定性感知选择，筛出一组紧凑的安全神经元；由于告警分数可微，它用梯度定位安全敏感的模板位置，再用掩码语言模型生成流畅且上下文兼容的变异，同时保留原有有害载荷。

Harness VLA：将冻结的 VLA 通过记忆引导智能体改造为可靠操作基元

Harness VLA 提出三层架构，把认知编排从底层执行中隔离出来，缓解端到端 VLA 模型在长程组合与环境扰动下的级联失败。该框架由高层规划智能体、固定基元库和两个记忆模块组成，其中 VLA_ACT 调用冻结的 VLA 处理接触密集行为，确定性解析基元负责移动与姿态调整。在 LIBERO-Pro 上取得 82.4% 成功率，较 RATS 基线提升 38.6 个百分点；RoboCasa365 上比 RLDX-1 高 25.4 个百分点；RoboTwin C2R 零样本迁移成功率为 58.4%。

RACER：面向多模态大模型后门的区域感知一致性修复框架

论文提出 RACER，一个模型级的多模态大模型后门修复框架，通过抑制内部表征的层级不一致异常来从源头移除后门。作者观察到后门会在内部表征中引发层级间演化异常，即层级不一致异常，且该异常与模态相关，主要集中在编码触发特征的 token 区域。RACER 据此把融合表征拆分为视觉与文本 token 区域，分别归一化其层级不一致性，再在深层窗口内以模态感知权重重组，形成区域感知的不一致目标，并通过 min-max 优化合成最坏情况扰动、对扰动做对抗微调来修复模型。该方法只需 100 条干净样本，不需要知道触发器、攻击目标，甚至不需要知道输入模型是否含后门。

TempJail：通过字幕时间调度对大型视觉语言模型发起时序越狱攻击

研究者提出 TempJail，一种黑盒视频越狱框架，通过构造与查询对齐的对话式字幕序列并优化其时间调度，利用大型视觉语言模型（LVLM）在时间维度上的脆弱性诱导出符合原始有害意图的回答。分析发现，越狱效果不仅取决于文本语义，还取决于其时间呈现方式，包括持续时长和时段分配；字幕因在真实视频中常见且可精确控制时间而不显突兀，被用作攻击媒介。在四个代表性 LVLM 和两个数据集上的实验显示，TempJail 在所有模型与数据集组合中取得最高攻击成功率，在 GPT-5 和 Gemini 3.5-Flash 上数据集平均 ASR 分别比最强基线高出 53 和 18 个百分点。论文共 8 页、4 张图。

HoloCount：面向 MLLM 的整体视觉计数基准

Deng 等人提出 HoloCount——一个针对多模态大语言模型的整体视觉计数基准，覆盖 1481 个独特视觉概念，并按语义计数、解析计数、鲁棒性测试三层分类诊断数值幻觉。高密度场景下性能崩塌明显：宏平均超 75% 的 Qwen3.5-27B 准确率跌至 20%，Gemini-3.1-Pro-Preview 仅 49.0%（MAE 10.46）。空目标提示子集中还出现反向悖论，轻量模型优于大型专有引擎，反映其不愿输出计数为零的过度自信倾向。

VA-Judger：面向联合视频-音频生成的人类偏好反馈奖励建模

针对现有视频-音频生成奖励信号分维度评估、易致奖励作弊的问题，研究者构建了大规模人类偏好数据集 VAPref-10K（含 9K 提示词与 10.3K 细粒度成对比较），并提出思维链全模态奖励模型 VA-Judger。该模型先学习质量差距明显的样本对，再通过拒绝采样蒸馏偏好解释，最后按维度做强化学习分解人类反馈。实验显示 VA-Judger 在域内与域外偏好预测上均优于指标基线，其奖励用于后训练还能显著提升生成质量。

Pluralis v0.1 发布：面向 AI 风险与可靠性的多文化多模态多语言基准

Pluralis v0.1 是一个面向 AI 风险与可靠性的多文化、多模态、多语言基准，覆盖孟加拉国、印度、韩国、巴基斯坦、新加坡、台湾六个地区，包含 14 种语言变体与 6,448 条提示词，由区域学术伙伴、政府 AI 安全机构（如新加坡 IMDA、韩国 AI Safety Institute）和本地标注者参与构建。该基准采用文化优先方法，提示词由本地专家原生构思而非翻译西方数据，并配对图像以捕捉文本与图像单独无害、组合后在特定地区构成风险的协同失败模式，例如电子烟携带建议在新加坡、印度、台湾涉及违法，以及送钟在中国文化中的禁忌。

欧盟 AI 法案第 50 条与加州 AI 透明度法案同日生效，内容溯源成为强制要求

2026 年 8 月 2 日，欧盟 AI 法案第 50 条与加州 AI 透明度法案同日生效，要求生成式 AI 提供商和相机厂商为内容附加机器可读的溯源元数据。文章介绍内容溯源的三类元数据（来源、保管链、修改历史）以及业界趋同的 C2PA 标准，Anthropic、Google、OpenAI 均表示将采用 C2PA。加州法律还要求月活超百万的生成式 AI 提供商提供免费的溯源查询工具，2027 年起大型平台不得剥离合规溯源数据，2028 年起智能手机、相机、录音笔等设备须默认生成溯源记录。

Google DeepMind 将手语到文本模型 SL2T 带入 Gboard 与 Live Transcribe

Google DeepMind 推出手语到文本（SL2T）翻译模型，并首次将其落地消费级产品——Pixel 11 上的 Gboard 与 Live Transcribe，首发支持美国手语（ASL）转英语听写。该模型基于超 100,000 小时、覆盖 50 多种手语的数据训练，其中约四分之一为 ASL，联合训练使其优于单语模型，并在未见过的数据上取得 70 BLEURT 的零样本成绩。它把手语视为手势坐标序列而非摄像头画面，由端侧 MediaPipe Holistic 提取姿态地标后再送服务器翻译，跳过 gloss 中间标注，从而摆脱人工词汇表限制。

免训练概念定位方法提升 ViT 对文字排版攻击的鲁棒性

Liu 等人的研究提出免训练方法，定位并抑制 Vision Transformer 中导致文字排版攻击的特定模块，从而提升模型对图像内干扰文字的鲁棒性。该方法基于线性表示假设，通过随机采样在 MHSA 瓶颈的低维子空间搜索与词汇概念对齐的“获奖向量”，并用基于梯度的归一化文本归因分数 nTAS 定位高脆弱性注意力头。干预方式有两种：在 CLIP 类骨干中重加权 patch token 影响，在缺少 class token 的 LVLM 中将脆弱模块输出置零。

Failure-First AI 安全日报：Google DeepMind 三天内连发两款机器人模型

Google DeepMind 于 7 月 28 日和 30 日先后发布 Gemini Robotics 2 与 Gemini Robotics ER 2，前者主打全身智能，后者新增视频理解、任务编排和多机协作，均为厂商公告且无公开对抗评估。同期 OpenAI 发布了涉及自身模型的第三方网络能力评估说明。两篇待关注预印本分别提出自动提示注入红队的智能体系统与恶意微调的梯度免疫防护。

ASPIRE：面向机器人学的智能体技能自主发现框架

ASPIRE（Agentic Skill Programming through Iterative Robot Exploration）通过逐图元的执行轨迹诊断实现机器人故障定位与自动修补，基于开源 CaP-X 框架和 MuJoCo Playground 仿真器运行。该方法将每次失败转化为持久化技能库中的可复用策略，并配合进化搜索避免陷入局部修复循环。在 LIBERO-Pro 扰动鲁棒性测试中成功率达 72%，较基线 CaP-Agent0 的 18% 高出最高 77 个百分点，并在 Robosuite 双手交接任务取得 92%、BEHAVIOR-1K 长程操作取得 88%。

面向良性用途的对抗攻击：视觉内容全生命周期主动防护综述

一篇综述将数据所有者、创作者、平台或审计方主动施加扰动与结构化信号以干扰未授权自动化、支持事后追责的做法称为"面向良性用途的对抗攻击"，并梳理了沿视觉资产生命周期分布的五个研究方向：分享阶段的隐私过滤器、针对未授权训练不可学习样本、防恶意编辑或模仿的生成式防护、用于访问控制的对抗验证码，以及传播后的来源溯源机制。作者按可迁移性、自适应性和部署就绪度统一评估这五类方法，发现多数防护仍主要针对静态或弱自适应对手验证，受控基准之外的证据依然稀缺。

ForesightSafety-TIDE：虚假证词使 LLM 多智能体系统事实恢复率从 72.50% 降至 14.17%

论文提出 ForesightSafety-TIDE 评测框架，将全诚实协作与关键证据持有者受控欺骗严格配对，通过多阶段投票、证词采纳和证据溯源追踪 LLM 多智能体系统的信息聚合过程。在 120 个五智能体物体移动环境中，部分观测共同决定唯一终点，作者评测了 3 个同构 LLM 多智能体系统。配对条件下，聚合事实恢复率从 72.50% 降至 14.17%，每个系统均显著下降。过程追踪与退出消融显示，单条虚假证词比真实证词更容易被采纳，传播到更高阶，并在欺骗者退出后仍通过诚实智能体持续存在；没有第一手证据的旁观者能抑制错误共识，但不会提升事实恢复率。作者认为，虚假证据通过被其他智能体采纳并在通信中继续传播而获得集体影响力。

Event-VLA：面向鲁棒视觉-语言-行动模型的行动条件化事件融合

针对当前 VLA 模型依赖帧基 RGB 传感器、在光照突变与运动模糊下易发生分布外失效的问题，Liu 等人提出 Event-VLA，将异步事件相机流作为互补观测引入机器人操控策略。该方法通过 Physical Residual Event Integration（PREI）把事件历史分解为瞬时、显著、持续三通道残差图，并以门控交叉注意力加查询引导路由接入冻结语义主干之外的动作通路，辅以一个预测未来事件的辅助头做正则化。在 LIBERO 及三级光照退化的 LIBERO-Cross（LL-Mild、LL-Dark、LL-Severe）上该框架提升了抗退化能力，但仍会在弱对比导致事件激活不足的场景中失败。

MasDrift：跨多智能体架构的授权保持基准

MasDrift 是一个覆盖八个领域、600 个良性生产力任务的多智能体授权保持基准，每项任务将必需工作与保留动作配对，比较单智能体、集中式和去中心化协调在层级深度与同级宽度变化下的任务完成率和授权保持情况。在通用多智能体条件下，集中式层级完成率为 93.9%–98.6%，同级网络为 85.7%–87.0%；未授权动作分别出现在 2.7%–19.8% 和 0.6%–0.8% 的任务中，差距随层级深度扩大。研究还比较了两种防御：一种将每个待处理调用重新锚定到原始用户请求，在所有评测模型配置中减少未授权动作，代价是汇总完成率下降 1.6 个百分点；另一种沿委派链传递衰减策略，反而阻断必需工作，最多损失 36.3 个百分点。

ActiveVital：面向家庭医疗机器人的几何感知嵌入式生命体征监测

ActiveVital 将毫米波雷达的生命体征监测从被动信号恢复重构为主动闭环几何调节问题，通过视觉引导定位胸部并调整传感器位姿来缓解角度失配导致的 cosθ 衰减。该系统基于 ViTPose 提取肩髋四个躯干关键点插值计算胸感测锚点，并用带容差阈值的二值控制律抑制机器人振荡。在 Galaxea R1 Lite 机器人与 60 GHz FMCW 雷达上的实验显示心率 MAE 由仅接近式传感的 5.26 bpm 降至 2.22 bpm，但仍不及协作静态传感的 1.66 bpm，且未报告显著性检验。

Google DeepMind 发布 Gemini Robotics ER 2，升级视频理解、任务编排与多机器人协作

Google DeepMind 发布具身推理模型 Gemini Robotics ER 2，作为机器人的高层大脑负责对话、物理世界理解和多步任务规划，并将电机执行交给底层 VLA 模型。相比 ER 1.6，它在实时 VLA、仿真 VLA 和人类遥操作三种模式下均提升了工具编排表现，进度分类准确率达 57.4%，并新增连续视频流下的进度追踪和多机器人协作。该模型通过 Gemini API、Google AI Studio 公开提供给开发者，并在 Gemini Enterprise Agent Platform 私有预览，集成 Gemini Live API 的双向流式端点以减少延迟停顿。

Google DeepMind 发布 Gemini Robotics 2，带来机器人全身智能

Google DeepMind 推出 Gemini Robotics 2，作为新一代机器人的智能层，实现全身控制、高级灵巧操作和多机协作。该系列含三款模型：视觉-语言-行动模型 Gemini Robotics 2 可控制从脚到指尖的人形及双臂机器人，具身推理模型 Gemini Robotics ER 2 负责规划数分钟的多步任务并让人机沟通，端侧模型 Gemini Robotics On-Device 2 可在设备本地运行并在几小时内适应全新机体。其中 ER 2 已在 Google AI Studio 开放，并于 Gemini Enterprise Agent Platform 私人预览，另两款面向早期访问伙伴。

ForesightSafety-VLA：面向视觉-语言-动作模型的统一诊断安全基准

Lyu 等人提出 ForesightSafety-VLA，一个把具身安全从结果检查转为过程级评估目标的诊断基准，用于暴露视觉-语言-动作（VLA）模型在任务完成与物理可靠性之间的安全差距。基准用 13 个安全类别组成三层分类体系，覆盖物理、指令与感知三类失效，并通过危险注入、约束收紧、时序前置条件插入三种算子构建 66 个基础场景。评测采用四象限结果框架，区分安全成功、不安全成功、安全失败与不安全失败，并用累计安全成本（CC）和风险暴露时间（RET）刻画过程风险。

Microsoft PyRIT v1.0.0 发布：确立 v1 架构并引入破坏性变更

Microsoft PyRIT 发布 v1.0.0，确立场景、攻击技术、执行器、注册表、标识符与记忆的 v1 架构，并包含有意的破坏性变更。场景策略更名为 techniques，组件构建统一走 BuildableRegistry，PromptConverter 改为 Converter，会话状态从 MessagePiece 迁至新的 Conversation 模型，0.15 及此前弃用的兼容层被移除。

MiShield：识别多图组合后浮现的隐式有害内容

论文提出多图隐式有害内容（MIIT）问题，即每张图片单独看都无害，但多张图片联合解读时会产生有害语义，现有商业审核 API 和模型因单图缺乏明显风险线索而难以识别。作者给出 MIIT 的正式定义并分析检测中的三个关键挑战，通过自动生成流程构建了覆盖七类代表性风险的纯图像多图安全数据集 MIIT-dataset，并训练出 MiShield，采用渐进式蒸馏推理监督，使其在给出安全判断的同时显式分析导致危害的关联实体。实验显示 MiShield-8B 的表现优于代表性审核服务和更大规模的模型。论文共 15 页、8 张图，作者提示内容可能包含敏感信息。

Google DeepMind 发布 Nano Banana 2 Lite 图像模型与 Gemini Omni Flash

Google DeepMind 面向开发者推出 Nano Banana 2 Lite（gemini-3.1-flash-lite-image）与视频生成及对话式编辑模型 Gemini Omni Flash（gemini-omni-flash-preview）。前者主打速度与成本，文本生图延迟 4 秒、$0.034/1K 分辨率图像，建议替代 gemini-2.5-flash-image；后者原生支持文本、图像、视频输入的对话式视频编辑，两者均已在 Google AI Studio、Gemini API 提供，Omni Flash 处于公开预览阶段并同步登陆 Gemini App 与 Google Flow。

ForesightSafety-VLA：面向视觉-语言-动作模型的统一诊断安全基准

研究者提出 ForesightSafety-VLA，一个以安全为首要评测目标的视觉-语言-动作（VLA）模型诊断基准。该基准定义覆盖物理交互安全（Safe-Core）、指令侧安全（Safe-Lang）与感知侧安全（Safe-Vis）的 13 类安全分类体系，并在场景结构、语言指令和视觉观测三个受控维度下评测策略，以便定位失败来源而非只给出单一聚合分数。除二元任务成功外，它还通过累计安全成本（CC）和风险暴露时间（RET）衡量过程级风险，并对安全/不安全的成功与失败做四象限分解。

Snapcompact：把上下文窗口渲染成像素字体图像，成本降至三分之一

Snapcompact 提出一种本地压缩方案：上下文窗口填满后，将文本渲染为 6×10 像素字体位图并以图像形式回传，40k 字符约合 3,279 image tokens，输入价格降至约三分之一。

2026 年 6 月 GenAI 安全资源盘点：越狱、CoT 攻击与百万级暴露服务

Adversa AI 汇总 2026 年 6 月 GenAI 安全资源共 19 项，其中研究 7 项、防御 6 项、攻击 5 项、利用 1 项。研究指出对齐模型内部存在可识别的拒答逃逸方向，攻击者可将模型自身思维链变为越狱通道，降低图像分辨率即可绕过多模态安全。对约 100 万个暴露 AI 服务的扫描发现 1,652 个未认证 Ollama API 在对外提供模型，可被用于响应投毒。