事件历史事件
边缘VLM物理对抗鲁棒性统一评测框架
先了解这件事
AI 综述
2026年10月21日发布的一项研究提出统一评测框架，用条件攻击成功率（cASR）衡量视觉语言模型与目标检测器对物理对抗贴片的鲁棒性。该指标只在模型于匹配灰色遮挡物下仍能定位的图像上统计，并把失败分为漏检、替换和位移三类。研究发现，紧凑型视觉定位VLM的脆弱程度可与目标检测器相当，失败模式主要与模型输出格式而非架构家族相关；三类失败中只有漏检能被下游系统察觉，位移和替换会返回置信度高、格式正常的框，潜在更危险。在分布偏移下，原本以漏检为主的VLM会更多转为位移。
AI 根据报道生成 · 22 天前更新
走势与进展
每小时关注度
现在 37，24 小时 0%·峰值 37（11月6日 03:00）
11月7日11月8日11月9日11月10日11月11日11月12日11月13日现在 37
相关研究
这件事的论文
- 边缘 VLM 时代物理对抗鲁棒性的统一评测框架
arXiv · 2026-10-21 · 深度解读
后续时间线
10月21日
- arXiv：对抗攻击、后门与投毒边缘 VLM 时代物理对抗鲁棒性的统一评测框架
研究者提出统一评测框架，用条件攻击成功率（cASR）衡量视觉语言模型与目标检测器对物理对抗贴片的鲁棒性，发现紧凑型视觉定位 VLM 的脆弱程度可以与目标检测器相当。该指标只在模型于匹配灰色遮挡物下仍能定位的图像上统计，并将失败分为漏检、替换和位移三类。研究发现失败模式主要与模型输出格式而非架构家族相关；三类中只有漏检能被下游系统察觉，位移和替换会返回置信度高、格式正常的框，潜在更危险。在分布偏移下，原本以漏检为主的 VLM 会更多转为位移和替换失败。代码与数据开源于 https://github.com/ericliang1/physical-adversarial-robustness。