事件观察中
研究者提出机器人安全基准RoboRisk与防护框架LEASH
先了解这件事
AI 综述
研究者提出机器人安全基准RoboRisk，含92个仿真任务与13个实体机器人任务，覆盖任务级拒答、计划修复、执行时危害、注入、顺序记忆五类风险，论文称此前基准最多覆盖两类；对六款模型的评测显示危害率普遍较高，另评测两款机器人API，并进一步提出LEASH，用决策模型对任务、动作、提交三道门控。
AI 根据报道生成 · 22 小时前更新
相关研究
这件事的论文
- LEASH：让智能体机器人保持安全
arXiv · 2026-11-10 · 深度解读
后续时间线
11月10日
- Hugging Face Daily PapersLEASH：让智能体机器人保持安全
研究者提出智能体机器人安全基准 RoboRisk，含 92 个仿真任务和 13 个实体机器人任务，覆盖任务级拒答、计划修复、执行时危害、注入、顺序记忆五类风险并闭环执行每个任务，此前基准最多覆盖其中两类、部分只评文本输出。对 GPT-6 Astra、GPT-6.1 Sol、GPT-6 Luna、Claude Opus 5.5、Gemini 4 Argon、Grok 4.7 六款模型的评测显示危害率普遍较高，另评测了 Dream API 和 PokeBot 的 RoboAPI 两个机器人专用 API。论文进一步提出可集成到几乎所有智能体架构的 LEASH，用决策模型（Jev 或 OpenAI 的 Decisions API）实现任务、动作、提交三道门控，在视觉上下文中审查任务、每个动作和每个不可逆操作，规划器与门控共享同一安全策略。
相关讨论
关注度走势
每天新增来源
- 11月10日新增1个来源（1家媒体、0个账号）
- 11月11日新增0个来源（0家媒体、0个账号）
- 11月12日新增0个来源（0家媒体、0个账号）
- 11月13日新增0个来源（0家媒体、0个账号）