ForesightSafety-VLA:面向视觉-语言-动作模型的统一诊断安全基准
ForesightSafety-VLA: A Unified Diagnostic Safety Benchmark for Vision-Language-Action Models
AI 导读
研究者提出 ForesightSafety-VLA,一个以安全为首要评测目标的视觉-语言-动作(VLA)模型诊断基准。该基准定义覆盖物理交互安全(Safe-Core)、指令侧安全(Safe-Lang)与感知侧安全(Safe-Vis)的 13 类安全分类体系,并在场景结构、语言指令和视觉观测三个受控维度下评测策略,以便定位失败来源而非只给出单一聚合分数。除二元任务成功外,它还通过累计安全成本(CC)和风险暴露时间(RET)衡量过程级风险,并对安全/不安全的成功与失败做四象限分解。