前 Anthropic、OpenAI、Google DeepMind 员工在纽约市议会听证会上呼吁加强 AI 监管

纽约市议会就 AI 监管举行听证会，前 Anthropic 工程师 Jacob Coxon 以及来自 Anthropic、OpenAI、Google DeepMind 的离职员工到场作证，称这些公司以“快速行动、事后修补”的创业心态推进他们尚不知如何控制的技术。Coxon 表示，在当前路径下人类失去对 AI 控制的可能性更大，甚至可能以人类灭绝告终。OpenAI、Anthropic、Google、Meta 的在职员工也出席作证，强调系统已在改善日常生活并重视安全。市议会议长 Julie Menin 要求各公司代表量化最坏灾难情景的风险，OpenAI 的 Morgan Dwyer 表示无法给出具体概率，并称 1%、10% 或 20% 都不可接受，Menin 批评这一回应“至少可以说是轻率的”。纽约州州长 Kathy Hochul 也已推动 AI 报告与透明度标准。