具身智能红队评估方法论：当前市场未覆盖的八个维度
Red Team Assessment Methodology for Embodied AI: Eight Dimensions the Current Market Doesn't Cover
AI summary
Failure-First 发布研究简报，提出面向具身智能的红队评估方法论，列出当前商用工具尚未覆盖的八个攻击面维度。作者认为现有商用红队工具的方法论假设攻击面止于模型输出层，主要覆盖提示注入、越狱和数据投毒，不适用于会感知物理环境并执行不可逆动作的具身系统。八个维度包括数字提示注入与指令层级破坏、推理轨迹完整性、多轮长时程行为、跨本体对抗迁移、物理世界攻击面、人在回路失效模式、欺骗性对齐检测，以及群体级关联与供应链。文中引用数据称 format-lock 攻击在 Nemotron 30B 上达到 92% ASR，AgentLAB 研究显示约 78% 被隐蔽篡改的计划获人类审核者批准，仅 7% 的制造商进行任何形式的 AI 对抗测试。作者指出 EU AI Act 高风险系统合规要求将于 2026 年 8 月生效。