跳到正文
原文
Forethought· Stefan Torges·本站收录· 原文发表· 观点 →· 扫描记录里的位置 →

Forethought 作者估计:少于25人控制未来的概率约23%

Paths to extreme power concentration

AI 导读

Forethought 文章估计,若本世纪实现超级智能且对齐问题解决,少于25人控制人类未来的概率约为23%。作者称多数风险涉及政府首脑,最大两条路径是威权国家在AI上反超民主国家,以及民主国家政府首脑与领先AI公司联手。涉及AI公司领导者的路径合计仅约8%,因公司须过本国政府一关;作者还新增最强国领导人达成协议的路径。

相关论文
阅读原文newsletter.forethought.org