理解与避免 AI 失效：实用指南

研究者基于常态事故理论、高可靠性理论与开放系统理论，构建了理解 AI 应用风险的框架。框架还结合 AI 安全原则，量化 AI 智能水平提升与类人特质带来的独特风险。研究不寻求事故根因，而是关注事故临近时的系统属性，据此指出当代 AI 系统应重点关注的安全环节。