OpenAI、Meta、Anthropic、Google 在纽约市议会听证会上无法量化 AI 灾难性风险

在 10 月 5 日纽约市议会听证会上，OpenAI、Meta、Anthropic 和 Google 的政策负责人宣誓作证，但均无法量化 AI 在最坏灾难性情景下的风险。OpenAI 政策发展负责人 Morgan Dwyer 回应议长 Julie Menin 的提问时称不知道具体概率，并认为 1%、10% 或 20% 都不可接受，Menin 称这一回答轻率。四家公司都强调对安全 AI 的承诺，但无法保证模型始终遵守安全护栏，也无法承诺对造成的损害承担法律责任。听证会持续数小时，约 30 名议员就 AI 导致的失业、艺术家保护和数据中心等问题质询。全部 51 名市议员到场，提出 10 项监管 AI 开发、部署和使用的立法，其中一项设立举报人激励计划，最高可获追回款项的 25%，另一项要求城市部署的 AI 系统配备 kill switch。