Translation in progress Some entries still include text in the original language.
Page 4 Newer contentBack to latest
研究者提出 SABER，一个针对视觉-语言-动作（VLA）模型的黑盒攻击框架，通过对指令做细微文本扰动诱发物理故障。在 LIBERO 仿真中对 π0、InternVLA-M1、DeepThinkVLA 等六个 VLA 模型测试，任务成功率平均下降 20.6 个百分点，动作序列长度增加 55%，物理约束违反与碰撞增加 33%。SABER 采用 FIND→APPLY 多轮流程，经 GRPO 训练，比基于 GPT 的基线少用 21.1% 工具调用和 54.7% 字符编辑。作者指出所有结果均来自 LIBERO 仿真，未在物理硬件上评估。
多智能体具身自动驾驶（MAEAD）正从 V2X 信息交换转向共同构建共享世界模型（SWM）。综述把协作感知分为早期原始数据、中期特征级（V2X-ViT、CoBEVT、BEV）和晚期目标级融合，并加入 Safety and Audit Layer 管理不确定性与来源。LLM/VLM（如 V2X-UniPool）和 GAIA-1、DriveGen 等生成模型分别用于语义协商与未来场景模拟。
研究提出蒸馏视觉语言可靠性引导扩散框架，把 VLM 蒸馏进 MiT-B0 学生网络生成像素级可靠性热图，供扩散规划器规划无人机轨迹。在 Pegasus Simulator 与 8 英寸四旋翼上，最小障碍距离从 NoMaD 基线的 0.009 m 升至 0.532 m，障碍侵入率从 40.3% 降到 9.6%。去掉可靠性项后平均可靠性从 0.898 降至 0.783。
研究者提出 Semantic Flip 框架，通过合成分布外（OOD）样本训练视觉语言模型的鲁棒拒答能力，用于具身问答与空间定位任务。框架用 Q-FLIP 改写查询文本、V-FLIP 通过 Parse→Detect→Inpaint 流程擦除视频记忆中的视觉证据来生成不可回答样本，并在冻结的 Qwen2.5-VL-7B 编码器上训练轻量 MLP 拒答门控。在 ABSTAINEQA 上，7B 门控取得 0.7110 的 F1，高于 32B 提示基线 Qwen2.5-VL-32B-AWQ 的 0.6746；新基准 SPACEREJECT 上 F1 为 0.9559。研究还发现朴素 CoT 会让 OOD 召回率从 0.95 降到 0.20，并指出 C2 循环内工具配置效果最好，门控在 RTX 5000 Ada 上每查询约增加 3.43s，但作为提前退出机制带来约 1.4x 加速。
一个基于智能体 AI 的医疗框架以确定性编排约束替代提示词路由，拦截过早诊断交接与静默幻觉。框架设两道门控：OLDCARTS 八维症状完整度达到 σ=8 才放行诊断，诊断环节用 K=5 次采样的语义熵标记不确定病例。在 150 个模拟临床病例、Llama-3.1-70b-instruct 上，完整框架诊断精度 49.3%，较基线提升 11.3 个百分点。
论文提出 Fail-RAG，用检索增强生成让现成 VLM 无需微调即可识别机器人运行故障。它用 CLIP ViT-B-32 将时序视频帧与故障描述嵌入同一空间，以余弦相似度检索历史故障作为上下文锚点，并输出结构化 JSON 故障判定。在 UR5、Franka、Fanuc M-20iB 等五个仿真与真机任务上，故障检测准确率较 Qwen2.5-VL:32b 基线平均提升 25 个百分点，部分任务达 40%。
RoboProcessBench 是诊断 VLM 能否从视觉观测推断机器人操作过程状态的基准，含 12 类诊断问题、约 5.8 万条 QA 对和 260 项任务。GPT-4o、Claude-3.5-Sonnet、Gemini-3.1-Flash 在阶段识别与接触检测上尚可，但在时间排序、时序优先级和局部进度估计上明显薄弱；在 ProcessData-SFT 上微调 Qwen2.5-VL-7B、InternVL-3-8B 可提升运动状态与进度估计。
论文（Zhang 与 Bisk）提出在 VLA 模型微调阶段应用 Sharpness-Aware Minimization（SAM），让模型收敛到更平坦的损失盆地以保留预训练语义，从而改善指令跟随。作者称在 LIBERO-PRO、LangGap、LIBERO-CF 三个基准上，π0.5SAM 相比标准 π0.5 的成功率分别提升 16.0、17.2 和 34.6 个百分点，在 7-DoF Franka Panda 与 DROID 真机反事实任务上成功率从 13.8% 升到 36.3%。消融显示全局施加 SAM 优于只作用于动作头、视觉或语言组件，代价是每步两次前向传播使计算量翻倍。
MedGuards 是免训练多智能体框架，把医疗错误检测与纠正拆为检测、定位、纠正三阶段，靠多智能体自一致与 ICL 仲裁解决分歧。在覆盖英文、阿拉伯文和中文的 MEDEC 与 MedErrBench 上，以 Doubao-1.5 为 backbone 时检测准确率 0.770、定位 0.716，GPT-4o-mini 接入后各指标平均提升 66.2%。框架还提出关键词优先纠正分 KPCS（α=0.5），对丢失关键医学实体的输出加重惩罚。
Wang 等人的研究考察了模型压缩对第一人称视觉理解中视觉语言模型可靠性的影响，并提出以决策依据为导向的剪枝方法。研究把双重正确预测定义为标签正确且由有效视觉证据支撑，并引入预测可信度、推理可靠性与 Right-Right 三项指标。在 EPIC-KITCHENS VISOR 数据集上，ECoFLaP 等标准剪枝方法的推理可靠性最多下降 11.09%，即使准确率保持稳定。作者的方法针对计算量约为多模态融合模块 37 倍的视觉编码器，用 Hessian 调制保护关键语义通路；在 VISOR 上 30% 剪枝率下，空间推理可靠性较 ECoFLaP 提升 13.62%，空间 Right-Right 提升 3.65%。
Yin 等人提出 VLAGuard 框架，包含红队攻击 VASA 与防御 APFT，用于评估并缓解 VLA 机器人的物理注意力劫持。VASA 在机器人工作区放置可打印对抗补丁，利用交叉注意力 Softmax 的零和特性把动作查询的注意力从目标物体和夹爪上夺走，使误差在闭环控制中逐步累积。APFT 采用教师-学生微调，仅更新视觉编码器，通过特征锚定、策略关键注意力蒸馏、语言引导几何一致性和时序注意力一致性四项损失恢复注意力分配，不增加推理延迟。在 LIBERO 仿真中，未防御的 OpenVLA 策略失败率为 100.0%，全局对齐基线 EDPA-AF 为 58.4%，APFT 降至 25.9%；在 PiPER 桌面真机 2000 次试验中，成功率从 23.0% 提升到 67.4%。
Elorian and Scale AI release the Humanity's Sixth Sense (HSS) benchmark, testing multimodal models' intuitive visual reasoning: human pass@1 is 93.1, while the top-scoring GPT 6 Astra reaches only 53.6. The benchmark contains 522 questions, 288 images, and 234 short videos; Chinese open-weight models GLM-5.3-flash and Kimi K3 score only 26.8 and 25.5, respectively. P-Zero Research's TasteVal benchmark uses 8 tasks to evaluate models' "research taste," while AI Frontiers discusses the compounding advantages of AI expanding into space.
提出 ZO-SPSA，以黑盒优化构造视觉对抗输入越狱视觉语言模型。
提出 GAMBIT 游戏化越狱框架，用拼图与竞赛场景攻击多模态模型。
用 emoji 填充与串联构造越狱提示，绕过过滤引出受限内容。
提出 PC² 越狱，用身份保持描述与远端多语翻译绕过文生图过滤。
提出 Vision 与 Caption 攻击，扰动点云操纵 3D VLM 输出。
提出 MacPrompt 跨语言字符重组越狱，绕过文生图模型的过滤与概念移除。
提出 ChartAttack，用恶意提示驱动代码模型生成误导图表。
清华大学 CoAI 团队构建 MIR-SafetyBench，评测多图推理中的安全风险。
提出 SOUNDBREAK，用仅音频共享对抗扰动使三模态模型答错。
提出 VILTA，在闭环训练中用 VLM 编辑邻车轨迹以提升驾驶策略鲁棒性。
提出 BVS 图文越狱，用中和拼接图和诱导提示词让模型生成有害图像。
提出 CAGE 攻击，在视觉 token 压缩下用图像扰动使预测偏离。
提出 CONTEXT-VQA，评测 VLM 被冲突误导文本说服后是否放弃视觉答案。
提出物理提示注入 PPIA，用印刷文字操纵视觉语言模型。
在 Moralise 上评测 VLM 道德判断的扰动鲁棒性。
提出 LAMP，学习可迁移的多图通用对抗扰动。
提出 TarVRoM-Attack，学习跨图像通用扰动以定向误导闭源 MLLM。
提出 ReAct 双策略，按反馈改写提示并扰动图像绕过 VLM 安全过滤。
提出 SGHA-Attack，对视觉语言模型做可迁移定向图像扰动。
提出 Alignment Curse，表明文本越狱可经 TTS 迁到音频。
提出 UltraBreak，用单张对抗图像对视觉语言模型实施可迁移越狱。
提出隐蔽提示注入攻击 LLM 钓鱼检测器，并给出防御 InjectDefuser。
The paper proposes SAGA (Stage-wise Attention-Guided Attack), a black-box region ranking framework that uses fixed attention maps from open-source LVLMs to guide perturbation updates, without needing access to the target model's parameters, gradients, or attention maps.
提出分图攻击 SIVA，固定文本切分图像以越狱对齐的视觉语言模型。
Why it was selected论文指出视觉安全对齐只覆盖完整图像，拆分输入中的分散危害线索未被拒绝，并给出可在对齐层补上的做法。
提出 VenomRec 跨模态交互投毒，定向推广多模态推荐物品。
Proposes the Aegis red teaming framework for multi-round attacks on high-risk voice agents.
Propose inference-time defense SafeThink, which monitors the chain of thought and injects a redirect prefix when below a threshold.
Propose GDA, which aligns image adversarial perturbations with text-grounded evidence and transfers attacks to vision-language models.