世界模型 AI 为何需要新的红队威胁分类体系
Red-Teaming the Next Generation: Why World Model AI Needs a New Threat Taxonomy
AI 导读
Failure-First 提出面向 JEPA 类世界模型的五类对抗攻击面，认为 LLM 越狱方法无法迁移到这类传感器输入、动作输出的系统。其分类包括观测投毒、cost module 操纵、规划视野攻击与动作序列约束侵蚀，作者称均未在已部署的世界模型上验证。该分析基于覆盖 81 个攻击技术家族、144 个模型、超 32,000 条提示词的语料。