AI 能感知物理危险并进行干预吗?
Can AI Perceive Physical Danger and Intervene?
AI 导读
研究者构建了一个基于真实受伤叙事和操作安全约束的具身 AI 物理安全基准,并用先进生成模型把从安全到不安全状态的过渡做成逼真图像和视频,以探测多模态安全理解。论文系统分析了主流基础模型感知风险、推理安全和触发干预的能力,为安全关键智能体应用的部署就绪度提供多方面洞见。作者还提出一种后训练范式,教模型显式推理系统指令给出的具身特定安全约束,所得模型生成可解释、透明的安全推理轨迹,在约束满足评测中达到 SOTA。基准发布于 https://asimov-benchmark.github.io/v2。