平坦化保持 VLA 模型的指令跟随能力
[Daily Paper] Flatness Preserves Instruction Following in Vision-Language-Action Models
AI summary
论文（Zhang 与 Bisk）提出在 VLA 模型微调阶段应用 Sharpness-Aware Minimization（SAM），让模型收敛到更平坦的损失盆地以保留预训练语义，从而改善指令跟随。作者称在 LIBERO-PRO、LangGap、LIBERO-CF 三个基准上，π0.5SAM 相比标准 π0.5 的成功率分别提升 16.0、17.2 和 34.6 个百分点，在 7-DoF Franka Panda 与 DROID 真机反事实任务上成功率从 13.8% 升到 36.3%。消融显示全局施加 SAM 优于只作用于动作头、视觉或语言组件，代价是每步两次前向传播使计算量翻倍。