全球 AI 科学家在北京对话，呼吁就 AI 红线开展国际合作

2024 年 3 月 10 日至 11 日，第二届 AI 安全国际对话（IDAIS-Beijing）在北京举行，由 FAR.AI 旗下 Safe AI Forum 与北京智源人工智能研究院（BAAI）合作举办。Yoshua Bengio、姚期智、Geoffrey Hinton 等图灵奖得主，与张宏江、黄铁军及薛澜、Gillian Hadfield 等治理专家参会，讨论 AGI 系统的安全发展路径。会议形成共识声明，建议为 AI 开发设定红线，禁止开发可自主复制、自我改进、寻求权力或欺骗创造者的 AI 系统，以及可用于制造大规模杀伤性武器和发动网络攻击的系统，并提出确保这些红线不被跨越的措施。次日科学家与中国官员及企业 CEO 会面，介绍红线提案并讨论 AI 的生存性风险，官员对共识声明表示欢迎，讨论聚焦于该议题上国际合作的必要性。