When world models dream wrong: physical-condition adversarial attacks against world models

Guo 等人提出物理条件世界模型攻击（PCWMA），作者称这是首个专门针对生成式世界模型的白盒对抗攻击。该方法通过求解反向扩散损失，向 HDMap 与 3D 框嵌入注入扰动，使世界模型生成的未来在语义上偏离真值，出现幻影车道、agent 位置偏移、无碰撞通道消失，而 FID、FVD 等像素级质量指标仍接近正常水平。在 3D 检测与开环规划两项下游任务上，检测精度明显下降，规划轨迹的预测碰撞率显著上升，基于像素输出的异常检测器却未发出告警。作者指出，该攻击属于推理时攻击，不需要接触模型训练，随机平滑、语义保真度认证边界等物理可实现的防御仍基本是开放问题。