看不见的攻击：AI 安全评测为何漏掉最危险的机器人威胁
The Attack You Can't See: Why AI Safety Evaluators Miss the Most Dangerous Robot Threats
AI 导读
Failure-First 研究团队称，具身 AI 安全评测存在结构性盲点：文本层评测无法识别语义无害、但在物理情境中危险的指令。团队设计了 20 个基于场景的歧义（SBA）场景，用 FLIP 反向推断评测方法评估，其中 45% 的轨迹被判为 BENIGN_QUERY，人工复核确认这些指令在文本上确实无害。团队还列出三层防御失败：外部研究（ACM SenSys 2026）显示由单条无害指令构造的动作序列对前沿模型攻击成功率超过 85%，现有防御只降低不到 18 个百分点；58 条轨迹、7 个攻击家族中零个模型完全拒绝生成动作序列；校准研究显示评测工具把约 31% 的已知无害轨迹判为有害合规。团队称具身 AI 的动作层对抗攻击目前没有治理响应，EU AI Act 高风险要求 2026 年 8 月生效但不区分文本层与动作层风险。