Anthropic 与 OpenAI 在由谁叫停高风险 AI 上立场分歧

Anthropic 与 OpenAI 分别向加州州长 Newsom 提交意见，对叫停有严重风险的前沿 AI 提出相反方案。Anthropic 主张，若总检察长经独立评估认定前沿模型存在近期灾难性危害风险，应可申请法院命令暂停该模型的部署、内部使用或进一步开发。OpenAI 则呼吁修订加州 SB 53，要求前沿开发商维护有效的关闭控制，并在出现不安全状况时负有可执行的使用义务。两家意见均回应 Newsom 9 月 18 日要求在 11 月 16 日前提交 AI 安全法修订建议的行政令 N-9-26，双方都支持独立安全评估与扩大安全事件报告。Anthropic 还提议开发商每六个月发布风险报告、以断路器式分级控制取代单一开关；OpenAI 则主张停止训练、隔离 Agent、撤销工具或网络访问等多种控制，并建议与 NIST 合作制定统一评估标准。