Safeworld 能否让人相信 GenAI 机器人不会伤人？

卡内基梅隆大学 Safe AI 实验室主任 Ding Zhao 联合 Kyle Wong、Simo Rachidi 创立 Safeworld，用仿真评估生成式 AI 驱动的机器人控制系统安全性，今日结束隐身状态并完成超 1200 万美元种子轮，由 Shine Capital 和 a16z Speedrun 领投，Box Group、卡内基梅隆大学捐赠基金、Innovation Endeavors 和 SV Angel 参投。其方法是在 Genesis 或 MuJoCo 等模型中构建工厂盲角等场景的数字版本，接入被测机器人的真实软件，运行数千个真人模型与机器人相遇的仿真场景，覆盖跌倒、下蹲、奔跑等人类行为。Gritt Robotics 正与其合作开发安全仿真。