Santos 等提出用自然语言反馈在线更新机器人安全表征
[Daily Paper] Updating Robot Safety Representations Online from Natural Language Feedback
AI 导读
Santos 等提出用自然语言反馈在线更新机器人安全表征的框架，用户口头下达约束后，机器人会持久更新安全控制器。方法用 VLM 结合视觉观测将语言接地为空间区域，以 HJ 可达性分析学习值函数，并用 warm-starting 实现在线更新。仿真和实体机器人实验显示机器人能遵守部署后口头告知的新安全约束，但 VLM 接地在歧义语言或杂乱场景下可能静默失败。