超越行为:视觉-语言-动作模型的刺激-反应安全评测
Beyond Behaviour: A Stimulus-Response Safety Evaluation of Vision-Language-Action Models
AI 导读
研究者在三个模型和两个视频基准上对视觉-语言-动作(VLA)模型开展刺激-反应式安全评测,结果提示即使模型内部已登记危险,任务执行仍可能是默认反应。评测考察模型面对可见危险与有害后果时的内部表征和动作倾向,并以人类对安全关键刺激可触发防御反应的生物敏感性为参照,检验 VLA 模型是否表现出类似响应。