VLA 知道自己会失败吗？物理 AI 系统中可解释的成功与失败模式
Do VLAs Know They Will Fail? Interpretable Success and Failure Patterns in Physical AI Systems
AI 导读
研究者发现，OpenVLA 激活的稀疏自编码器（SAE）表示包含结果预测信息，可在机器人进入不可挽回状态之前预测任务失败。他们识别出强激活与成功或失败特定阶段相关联的单个 SAE 特征，并通过定位这些特征激活显著变化的时间区间，归纳出反复出现的行为模式。团队还开发了基于 VLM 的解读流程，为这些模式生成行为描述，并在留出区间上验证了描述与特征激活的对应关系。