跳到正文
原文
Failure-First·本站收录· 原文发表

F1-STD-001:AI 安全评估的自愿性标准

F1-STD-001: A Voluntary Standard for AI Safety Evaluation

AI 导读

Failure-First 发布 F1-STD-001 v0.2 自愿性标准,为生成物理动作的 AI 系统规定十项评测要求。标准面向用 VLA 模型规划动作的机器人等具身系统,要求同时评测文本与动作输出、做组合安全测试、跨语言安全验证、部署前筛查安全干预的医源性影响,并覆盖至少 15 个攻击家族。其余要求包括硬件急停、72 小时内上报事件、披露评分器校准、基准污染测试和双评分器集成。作者称该标准基于 201 个模型、133,210 条评测结果和 36 个攻击家族的经验数据,并说明它不是 EU AI Act 下的协调标准,也未被任何标准机构采纳。

相关论文
阅读原文failurefirst.org