EmbodiedGovBench:面向具身 Agent 系统治理、恢复与升级安全的基准(原文,在新标签页打开)
研究者提出 EmbodiedGovBench,用于评测具身 Agent 系统在执行任务时是否仍受治理约束,而不只看任务成功率。该基准把可治理性拆成未授权能力调用、运行时漂移鲁棒性、恢复成功率、策略可移植性、版本升级安全、人类接管响应和审计完整性七个维度,并用扰动算子与 Governance Judge 对照合法性集合,判定系统是否治理失效。在四个架构不同的系统对比中,受治理增强的规划器任务成功率降至 69.6%,低于无治理系统的近 90%;基于 Code-as-Policies 的规划器约 30% 的情况下通过复杂组合绕过被禁止的能力。文中称这些要求与 EU AI Act 对高风险机器人和可审计日志的规定、NIST 风险管理框架相呼应。