诉讼指控主要 AI 开发商无法控制自己的技术

多家公益团体周四在旧金山高等法院起诉 Anthropic、Google、Meta、OpenAI 和 SpaceXSI 五家 AI 开发商，请求阻止其开发 AI 模型，指控这些公司明知所造技术对人类构成灾难性风险。原告包括 Alliance for Secure AI、Irreplaceable Education Fund、Public Citizen 和 Heat Initiative；诉状称被告明知这些系统不会始终按其意图行事，也没有可靠方法控制 AI 系统防止伤害，并担忧公司依赖自身模型开发未来平台的“递归自我改进”会放大风险。Alliance for Secure AI CEO Brendan Steinhauser 称，建造这些系统的高管多年来警告自家前沿模型构成灾难性风险，却仍在竞相开发更强大的 AI。被诉公司暂未回应置评请求。