16国政府与10家AI公司签署《巴黎人工智能安全呼吁》
Paris Call for AI safety and security | France in the United Kingdom
AI 导读
16国政府与Anthropic、OpenAI等10家AI公司及7家公民社会组织于2026年11月9日签署《巴黎人工智能安全呼吁》,围绕前沿模型安全作出三项承诺。一是建立前沿模型评估与风险管理共同框架,重点应对包括网络与CBRN在内的危险滥用,以及自主性增强或模型未对齐带来的风险(包括失控),并以标准化格式公开非敏感评估结果、建立公开共享库。二是明确全生态按角色担责,开发者承诺披露模型能力、局限与已知风险,酌情支持合格独立评估,并落实可在训练和内部使用期间限制、暂停或关停模型的 fail-safe 机制。三是建立信息共享与早期预警机制,政策制定者承诺为吹哨人提供免遭法律或职业报复的安全保密渠道。声明仍开放新签署。
阅读原文