白宫撤回限制，英国AISI恢复对美企模型发布前测试
先了解这件事
据《每日电讯报》报道，特朗普政府撤回此前要求OpenAI、Anthropic等美国AI开发商不要在发布前与英国AI安全研究所（AISI）共享新模型的决定，美国开发商可提前向英国政府开放模型用于安全测试。此前白宫国家网络主管办公室下达该要求后，Anthropic曾限制英国官员审查其新的Claude Mythos 5.1模型；在AI事务部长Kanishka Narayan游说后这一决定被撤销，AISI将恢复对Anthropic、Google DeepMind和OpenAI最新模型的发布前安全测试权限。报道称，这一变化显示特朗普政府对国际AI安全努力的立场有所软化。特朗普、OpenAI和Anthropic的发言人均未立即回应路透社的置评请求。英国AISI另宣布将采取一揽子措施加强国家防御，以应对能力日益强大的AI所带来的风险。
AI 根据报道生成 · 24 分钟前更新
事件进展
- · 2篇报道英国AI大臣呼吁前沿AI企业加强安全并强化网络防御
- · 2篇报道白宫恢复英国AISI对三大实验室模型的发布前测试权
后续时间线
- The Guardian · 人工智能英国将强化网络防御，AI 大臣呼吁前沿 AI 公司加大安全投入
英国 AI 大臣 Kanishka Narayan 将宣布加强英国网络防御，并呼吁开发前沿 AI 的公司加大安全投入，称英国不能完全依赖科技公司自我监管。英国 AI Security Institute 前首席科学家 Geoffrey Irving 向《卫报》表示，AI 公司缺乏阻止敌对国家窃取模型的安全措施，并援引 OpenAI 在奖励道德黑客的测试项目中被“攻破”一事。
- Reuters《每日电讯报》称美方撤回限制，不再反对美国 AI 开发商向英国 AISI 提前开放模型
据《每日电讯报》报道，特朗普政府撤回了此前要求 OpenAI、Anthropic 等开发商不要在发布前与英国 AISI 共享新模型的决定，美国 AI 开发商可提前向英国政府开放模型用于安全测试。报道称，这一变化显示特朗普政府对国际 AI 安全努力的立场有所软化，为美国开发商与英国合作留出更大空间。特朗普、OpenAI 和 Anthropic 的发言人均未立即回应路透社的置评请求。英国 AISI 在 2023 年首届 AI 安全峰会之后成立，负责测试最先进 AI 模型的能力与滥用风险。特朗普新成立的 AI 工作组周五表示，开发商必须上报其 AI 模型的安全事件。
- The Telegraph精选白宫改口，英国 AISI 恢复对三家美国实验室模型的发布前测试权
白宫撤销了要求美国 AI 公司停止向英国 AISI 共享模型的决定，英国 AI 安全研究所将恢复对 Anthropic、Google DeepMind 和 OpenAI 最新模型的发布前安全测试权限。上个月，白宫国家网络主管办公室下达该要求后，Anthropic 曾限制英国官员审查其新的 Claude Mythos 5.1 模型；据 The Telegraph 了解，在 AI 事务部长 Kanishka Narayan 游说后这一决定被反转。Narayan 还将在周一的演讲中宣布一系列措施，包括修改《网络安全与韧性法案》，强化承接关键国家基础设施项目的公司上报涉 AI 安全事件的要求，并让政府更多使用前沿 AI 保护白厅部门、增加 NCSC 等机构调查与响应事件的资源。
- 日期未标
相关讨论
关注度走势
每天新增来源
- 10月12日新增6个来源（6家媒体、0个账号）