攻击被信任的想象：针对 Imagine-then-Act 世界模型的 Oracle 级完整性攻击
[Daily Paper] Attacking the Trusted Imagination: Oracle-Level Integrity Attacks on Imagine-then-Act World Models
AI 导读
一篇论文提出针对 Imagine-then-Act 世界模型的 Oracle 级完整性攻击：篡改世界模型对未来的想象，使其误判动作后果，机器人便会在自认为安全的情况下选择物理上危险的动作。攻击篡改的是预测而非执行，利用的是世界模型与动作选择器之间的信任边界；它不改变可见的输入或输出，破坏发生在模型前向传播内部，因此常规的输入输出异常检测无法发现。Failure-First 认为，对在规划中使用世界模型的 VLA 系统而言，这构成一类需要专门测试场景的新攻击，并支持其独立于模型自评估的 Layer-4 运动学安全检查主张。