Hinton 呼吁建立 FDA 式前沿 AI 审批制度
Start here
Geoffrey Hinton 在播客 Smart Girl Dumb Questions 中主张，AI 公司应在发布产品前先向监管机构证明其安全性，如同新药须经 FDA 审批，并以药物研发约 10 亿美元的工作量作为 AI 的最低门槛。他称 AI 正被用于改进 AI，递归自我改进可能同时放大能力与风险，猜测“一两年内”情况会明显恶化。他提到两周前在美国国会山参加了一场有 19 位参议员出席的闭门简报会，会后略感乐观，但指出与会者多为民主党人、存在自我筛选；他认为公众对 AI 风险的认识正在形成对政客的压力，类似当年气候变化的路径，并建议用选票推动更理性的政府。相关表态发生在 OpenAI 因测试担忧而搁置最新模型之后；此前他与 Yoshua Bengio 等 20 余位专家在剑桥大学 9 月底发布的论文中警告可能出现“智能爆炸”，而美国目前仍倾向行业自我约束。
Generated by AI from reports · Updated 3 days ago
Progress timeline
- heise onlineGeoffrey Hinton 提议像审批药物一样审批 AI 模型
Geoffrey Hinton 在播客 Smart Girl Dumb Questions 中提议，AI 公司须在新产品发布前向监管机构证明其安全性，如同药企须先说服 FDA，而这一过程耗资约 10 亿美元。他认为 AI 自我改进会同时放大能力与风险，指数级进程留给人类的应对窗口可能只有一两年。此前他与 Yoshua Bengio 等 20 余位专家在剑桥大学 9 月底发布的论文中警告可能出现“智能爆炸”，但美国目前仍倾向行业自我约束。
- Business Insider“AI 教父”Hinton 呼吁为 AI 模型建立 FDA 式审批制度
Geoffrey Hinton 在播客“Smart Girl Dumb Questions”中提议，AI 公司应在发布产品前先说服监管机构其产品安全，如同新药须经 FDA 审批。他以药物研发需耗费约十亿美元的工作量作类比，认为这应是 AI 的最低要求。Hinton 称 AI 正被用于改进 AI，递归自我改进可能加速能力与风险，并猜测“一两年内”情况会明显恶化。此番表态发生在 OpenAI 因测试担忧而搁置最新模型之后。
- Podscan（Smart Girl Dumb Questions 本集转录）Geoffrey Hinton 谈 AI 治理：呼吁设立类似 FDA 的监管机构
Geoffrey Hinton 在播客中主张 AI 应像药品一样接受监管，企业须通过政府认可的独立评估才能发布模型，并称这一门槛"至少"应达到新药约 10 亿美元级验证投入的水平。他提到两周前在美国国会山参加了一场有 19 位参议员出席的闭门简报会，会后略感乐观，但指出与会者多为民主党人、存在自我筛选。他认为公众对 AI 风险的认识正在形成对政客的压力，类似当年气候变化的路径；就个人行动而言，他建议用选票推动更理性的政府，并认为水管工这类需要身体灵活性的工作在今后约十年内相对不易被取代。
Related discussion
- Older than 72 hours · Not included in the 72-hour figures
- 网页IT之家“AI 教父”辛顿提议 AI 行业建立 FDA 式审批机制：模型推出前需通过安全审核(opens the original post in a new tab)
Attention trend
New sources per day
- Oct 6New1 sources (1 outlets,0 accounts)
- Oct 7New3 sources (3 outlets,0 accounts)
- Oct 8New0 sources (0 outlets,0 accounts)
- Oct 9New0 sources (0 outlets,0 accounts)
- Oct 10New0 sources (0 outlets,0 accounts)
- Oct 11New0 sources (0 outlets,0 accounts)
- Oct 12New0 sources (0 outlets,0 accounts)