LIBERO-Safety：面向视觉-语言-动作模型物理与语义安全的综合基准
LIBERO-Safety: A Comprehensive Benchmark for Physical and Semantic Safety in Vision-Language-Action Models
AI 导读
研究者提出 LIBERO-Safety 基准，用于评测视觉-语言-动作（VLA）模型的物理与语义安全。该基准以参数化方式程序化生成具有随机性的安全关键场景，并开发关键位姿驱动的数据生成管线以突破人工遥操作的扩展瓶颈，据此构建了 19664 条严格无碰撞、含广泛域随机化的演示数据集。团队对八种 VLA 模型和两种具身基础模型开展跨范式评测，揭示了泛化与安全之间的张力：高多样性训练虽有助于产生更安全的轨迹，任务成功率仍受次优轨迹合成与语义错位的根本制约。作者称这项工作为开发安全可靠的 VLA 模型提供了可扩展管线、数据集与失败模式洞见。