基于世界模型的具身 AI 安全：威胁、防御与评估的生命周期

一篇综述系统梳理了基于世界模型的具身 AI 在全生命周期中的安全威胁、防御与评估。世界模型把观测压缩为状态、模拟动作条件下的未来并支持超越反应式控制的规划，这一预测层也构成新的安全边界，数据、传感器、提示词或反馈中的失陷可传导到物理动作。综述按数据构建与表征学习、状态 grounding 与想象、轨迹评估与执行、以及借助记忆和工具的长期适应展开，指出投毒、后门、对抗样本、传感器欺骗、提示注入、轨迹操纵和供应链攻击在破坏世界状态、学习到的动力学、可供性估计或安全代价时具有不同含义。作者还提出一种双重性：世界模型可充当运行时安全护栏，但被攻破或过度信任时会产生预测性的安全幻觉。综述给出生命周期分类法，把现有攻击映射到世界模型安全属性，列出安全失效的评估协议，并从来源溯源、鲁棒 grounding、不确定性感知预测、轨迹门控、反馈审计和部署保障组织防御。