Failure-First·Indexed by this site · Originally published
机器人 VLA 模型通过对抗合成场景学习安全策略
[Daily Paper] Learning of Robot Safety Policies via Adversarial Synthetic Scenarios
AI summary
论文提出「智能体游戏化」框架，为机器人 VLA 基础模型学习安全策略：将安全场景发现变成红队与蓝队对抗博弈，红队搜寻致害事件序列，蓝队据此更新安全包络。该框架嵌入五步危害知情流程，用智能手机摄像头等现成硬件构建数字孪生，生成含噪声与遮挡的合成变体。对抗轨迹数据可用于上下文学习（ICL）或 ML 微调，作者正以「桌上的罐子」实验验证。