ForesightSafety-VLA:面向视觉-语言-动作模型的统一诊断安全基准
[Daily Paper] ForesightSafety-VLA: A Unified Diagnostic Safety Benchmark for Vision-Language-Action Models
AI 导读
Lyu 等人提出 ForesightSafety-VLA,一个把具身安全从结果检查转为过程级评估目标的诊断基准,用于暴露视觉-语言-动作(VLA)模型在任务完成与物理可靠性之间的安全差距。基准用 13 个安全类别组成三层分类体系,覆盖物理、指令与感知三类失效,并通过危险注入、约束收紧、时序前置条件插入三种算子构建 66 个基础场景。评测采用四象限结果框架,区分安全成功、不安全成功、安全失败与不安全失败,并用累计安全成本(CC)和风险暴露时间(RET)刻画过程风险。
相关论文