前沿 AI 风险管理中的开放问题
Open Problems in Frontier AI Risk Management
AI 导读
研究者系统梳理了前沿 AI 风险管理中的开放问题,按风险规划、识别、分析、评估和缓解五个环节检视文献并加以归类。作者将开放问题分为三类:科学或技术共识缺失、与既有风险管理框架错位或构成挑战、以及共识与框架已具备但落地存在缺陷。论文据此标注了开发者、部署方、监管者、标准机构、研究者和第三方评测者等最适合推进各类问题的主体。研究不提出具体解决方案,而是作为议程设定参考文件,并配套一个持续更新的在线仓库,用于支持协调、减少重复工作。