跳到正文

#权重安全

今天还没有收录新动态
9月10日周四
  1. AI Safety in China (Concordia AI) ·

    中国网信办官员警示 AI 失控与生物风险,Z.AI 首次因安全推迟 GLM-5.3 权重发布

    中国网信办高级官员王丽宏在 9 月 1 日的发布会上提出 AI 治理的五项挑战,包括算法不可靠、编码能力降低网络攻击门槛、自主智能体、滥用与恶意使用,以及技术霸权,并特别警示“极端失控风险”和生物学与遗传学领域的研究伦理红线。简报认为这是网信办官员首次如此突出地把生物与遗传学列为 AI 风险领域,此前该风险多出现在标准文件中。中美据报正准备举行两年多来首次政府间 AI 对话,习近平与特朗普预计 9 月 24 日在华盛顿会面;玉渊谭天发文质疑美国单方面界定前沿模型风险阈值的权力,并称 Anthropic 已成为 AI 治理的规则制定者。TC260 预计在 9 月 14 至 20 日的国家网络安全宣传周发布更新版 AI 安全治理框架。

7月15日周三
  1. IAPS(Institute for AI Policy and Strategy) ·

    IAPS 评估 RASA 法案:建议将云基础设施定义扩展至 PaaS

    IAPS 发布关于《远程访问安全法案》(RASA)的政策简报,评估该立法应如何界定范围,并建议参议院文本 S. 3519 扩大对云基础设施的定义。简报指出,美国出口管制限制向中国出售先进 AI 芯片,但未明确覆盖通过云远程租用的同等算力,RASA 将补上 BIS 在这一权限上的缺口。参议院文本目前仅把云基础设施服务定义为 IaaS,只覆盖租用裸金属算力训练模型的实体,却不覆盖同一实体在托管平台服务上训练的情形,IAPS 建议至少纳入有明确边界的 PaaS 定义。简报还提示,若 RASA 像已通过的众议院文本 H.R. 2683 那样延伸到 SaaS,可能赋予 BIS 对访问美国 AI 模型的管制权限;文中提到商务部致 Anthropic 的信函要求 Mythos 5 与 Fable 5 模型出口需许可,但未建立模型专属 ECCN,也未明确是否覆盖通过 SaaS 远程访问模型。

5月11日周一
  1. Import AI ·

    Import AI 456:RSI 与经济增长、AI 监管的激进可选性,以及神经计算机

    Import AI 456 期聚焦三项议题:法律与 AI 研究所提出“激进可选性”(Radical Optionality)监管理念,主张政府当下投入建设信息披露、举报人保护、政企间情报共享、灵活规则定义及评估能力等制度工具,同时避免过早过度监管,并建议加大对英国 AISI、美国 CAISI 的资金投入。该理念还回应了民主合法性、权力集中和政府滥用等质疑,且不建议大幅扩张《国防生产法案》类紧急授权。此外本期提及 RSI 与经济增长的关系,以及 Juergen Schmidhuber 提出的神经计算机(Neural Computer)。

已经到底了