Geoffrey Hinton 提议像审批药物一样审批 AI 模型
KI-Modelle wie Medikamente zulassen: Das steckt hinter Geoffrey Hintons Idee
AI 导读
Geoffrey Hinton 在播客 Smart Girl Dumb Questions 中提议，AI 公司须在新产品发布前向监管机构证明其安全性，如同药企须先说服 FDA，而这一过程耗资约 10 亿美元。他认为 AI 自我改进会同时放大能力与风险，指数级进程留给人类的应对窗口可能只有一两年。此前他与 Yoshua Bengio 等 20 余位专家在剑桥大学 9 月底发布的论文中警告可能出现“智能爆炸”，但美国目前仍倾向行业自我约束。
相关论文