CLTC 与 SaferAI 联合发布 AI 风险建模开放问题论文
Risk Modeling for AI Safety: Key Findings from a CLTC Workshop
AI 导读
CLTC 的 AI Security Initiative(AISI)与欧洲非营利机构 SaferAI 于 2026 年 3 月举办线上研讨会,聚焦 AI 安全中研究不足的风险建模领域,22 名来自民间社会、学术界和政府机构的专家参会。会后 12 名参会者发布论文《Open Problems in AI Risk Modeling》,梳理了限制传统方法应用于风险建模的方法论与制度挑战,并比较了基于场景的风险估计与基于贝叶斯网络的阈值设定两种主流方案。论文指出目前尚无单一成熟的 AI 风险建模方法,并提出涵盖模型结构、范围、证据整合、验证与治理的开放问题议程。
相关论文