Yang 等人提出具身智能可信度系统框架与 T0 至 T5 分级
[Daily Paper] Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels
AI 导读
Yang 等人的论文提出以持续安全成功定义具身智能的可信度，认为实验室任务完成率不足以作为安全指标，因为具身系统的错误可能造成设备损坏或不可逆的人身伤害。论文将可信度拆为模型层、系统层、证据层和部署层四层功能架构，指出语义与物理鸿沟、动作与后果鸿沟以及跨层不可组合性会导致单层防护失效。作者还给出 T0 至 T5 的非规范性分级，从无可信智能到在受治理变更流程下维持可信，并建议按安全成功、安全失败、不安全成功和不安全失败四类结果评估系统，同时将框架与 ISO 21448（SOTIF）和 ISO 10218 对齐。