增强现实中矛盾虚拟内容攻击下的视觉语言模型基准评测
Benchmarking Vision-Language Models under Contradictory Virtual Content Attacks in Augmented Reality
AI 导读
研究者提出 ContrAR 基准，用于评测视觉语言模型（VLM）在增强现实（AR）中面对矛盾虚拟内容攻击时的鲁棒性。这类攻击通过在用户视野中植入恶意或不一致的虚拟元素来误导用户、制造语义混乱或传递有害信息。ContrAR 包含 312 段经 10 名参与者校验的真实 AR 视频，团队据此测试了 11 个涵盖商业与开源模型的 VLM。结果显示，现有 VLM 对矛盾虚拟内容有合理水平的理解，但在检测和推理 AR 环境中的对抗性内容操纵方面仍有提升空间，检测精度与延迟的平衡也仍是难题。