ForesightSafety Bench：面向安全 AI 的前沿风险评估与治理框架
ForesightSafety Bench: A Frontier Risk Evaluation and Governance Framework towards Safe AI
AI 导读
研究团队提出 ForesightSafety Bench AI 安全评测框架，从 7 大基础安全支柱出发，延伸至具身智能安全、AI4Science 安全、社会与环境 AI 风险、灾难性与生存性风险以及 8 个关键行业安全领域，共 94 个细分风险维度。该基准目前已积累数万个结构化风险数据点和评估结果，并对二十多个主流先进大模型进行了系统评测，识别关键风险模式与能力边界。评测结果显示前沿 AI 在多个支柱上普遍存在安全漏洞，尤其集中在有风险的智能体自主性、AI4Science 安全、具身智能安全、社会 AI 安全以及灾难性与生存性风险方面。基准已在 GitHub 开源，项目网站同步上线。