跳到正文

智谱 · GLM · News

10月12日 · 周一

智谱 · GLM · News

按原发与事件进展排列
10月7日周三
  1. CSA Labs Research、NIST CAISICSA Labs Research 等 2 个来源 · 2篇报道 · 51

    NIST 将 CAISI 更名为 CAISSI,聚焦超级智能评测与标准

    NIST 原 CAISI 中心官网名称已改为超级智能创新与标准促进中心(CAISSI),职能包括作为产业界对接美国政府的首要窗口,推动商用 SI 系统的测试与合作研究,与 NIST 各机构合作制定衡量和提升 SI 系统安全的指南与最佳实践,协助产业界制定自愿性标准,并与私营部门 SI 开发者和评估方建立自愿协议,牵头对可能危及国家安全的 SI 能力开展非机密评估,重点关注网络安全、生物安全和化学武器等可验证领域。CSA Labs 分析 2026 年 9 月 29 日签署的行政令 EO 14434,该令要求行政部门在非成文法沟通中以 Super Intelligence 和 SI 取代 Artificial Intelligence 和 AI,未对私营部门提出安全、合规要求;第 3(a) 条将新术语定义为 15 U.S.C. § 9401(3) 中的人工智能,因此不改变现有法规、合同或拨款,第 2(b) 条明确不要求修改此前发布的法规、总统文件。

9月24日周四
  1. 安远AI · 44

    安远AI与智谱联合发布前沿开放权重AI风险管理框架

    安远AI(Concordia AI)与智谱(Z.AI)联合发布《前沿开放权重AI风险管理框架》,面向开放权重开发者及更广泛的生态,作为《前沿AI风险管理框架2.0》的配套文件,于2026年9月21日在联合国数字合作日首次公布。框架指出开放权重模型在提升透明度、研究与创新的同时带来独特风险:发布无法撤回、护栏可通过微调移除、没有单一主体能监控使用或收回模型。框架沿用从风险识别到风险治理的六个风险管理阶段,在每个阶段标出哪些协议在开放发布下失效并给出适配方案,并在部署环境、威胁来源、使能能力三个分析维度之外新增第四个维度社会韧性,衡量社会吸收和应对AI致害的能力。作者为安远AI与智谱,贡献者包括Brian Tse、Oskar Galeev、Weibing Wang、Yuan Cheng、Liang Fang、Wenbin Qiao、Xiaochen Wang、Chen Zhang。

9月10日周四
  1. 安远AI · 43

    中国网信办官员警示 AI 失控与生物风险,Z.AI 首次因安全推迟 GLM-5.3 权重发布

    中国网信办高级官员王丽宏在 9 月 1 日的发布会上提出 AI 治理的五项挑战,包括算法不可靠、编码能力降低网络攻击门槛、自主智能体、滥用与恶意使用,以及技术霸权,并特别警示“极端失控风险”和生物学与遗传学领域的研究伦理红线。简报认为这是网信办官员首次如此突出地把生物与遗传学列为 AI 风险领域,此前该风险多出现在标准文件中。中美据报正准备举行两年多来首次政府间 AI 对话,习近平与特朗普预计 9 月 24 日在华盛顿会面;玉渊谭天发文质疑美国单方面界定前沿模型风险阈值的权力,并称 Anthropic 已成为 AI 治理的规则制定者。TC260 预计在 9 月 14 至 20 日的国家网络安全宣传周发布更新版 AI 安全治理框架。

9月2日周三
  1. 中国网信网 · 46

    网信办通报清朗专项行动第二阶段AI技术滥用治理情况

    中央网信办通报“清朗·整治AI应用乱象”专项行动第二阶段进展,聚焦AI制作虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等问题,累计清理违法违规信息561万余条,查处账号4.9万余个,处置违规网站、应用程序等2400余个。各地网信部门推出针对性措施,北京指导平台升级审核策略,上海推出AI应用“知识普及包”,浙江开展“一企一策”合规指导,广东对多款应用点对点督促整改。抖音、快手、微博、腾讯、百度等平台优化多模态识别模型并动态扩充人脸库、声纹库和违规样本库,豆包、元宝、千问、文心一言等严把原始语料审核并强化AI生成合成内容标识,华为、小米、OPPO、vivo等应用商店加强APP准入与抽检。

7月20日周一
  1. Import AI · 43

    UK AISI 评测:开源权重模型与闭源前沿的网络能力差距正在缩小

    英国政府 AI Security Institute(AISI)首次公开分析开源权重模型在网络安全能力上落后闭源前沿模型的程度,结论是今年的差距已经缩小。在 70 项细分网络能力评测上,GLM-5.2 最接近早 4.3 个月发布的 Claude Opus 4.6,DeepSeek-V4-Pro 介于 Claude Opus 4.5 与 GPT-5 之间;而 2025 年大部分时间测得的差距为 6 到 10 个月。在名为 The Last Ones 的长周期网络靶场上差距更大,GLM-5.2 仅达到 Opus 4.5 的水平,DeepSeek V4-Pro 低于 Sonnet 4.5。

7月6日周一
  1. 中国网信网 · 54

    中央网信办通报清朗AI技术滥用治理专项行动第一阶段处置结果

    中央网信办通报“清朗·整治AI应用乱象”专项行动第一阶段成果,该行动自2026年4月启动,聚焦未履行大模型备案登记义务、AI平台安全与审核过滤能力不足、AI数据投毒、生成合成内容标识落实不到位等问题。第一阶段累计处置违规网站、应用程序、智能体等AI产品1.4万余款,清理违法违规信息600余万条,处置账号2.6万余个,下架违规AI商品1300余个、违规开源数据集9个。北京、上海、浙江、江苏、广东等地网信部门采取联动巡查、细化平台要求、多维度整改、专项举报窗口、多部门协调监管等措施。华为、阿里巴巴、智谱、稀宇、DeepSeek等平台分别加强备案标识审核、数字指纹比对、多模态审核、恶意行为阻断和数据异常检测。下一步将开展第二阶段工作,重点整治利用AI制作虚假信息、散播不良信息、假冒仿冒、侵害未成年人权益和网络水军等问题。

2月2日周一
  1. 安远AI · 21

    AI Safety in China #25:官媒报道高层学习会提及 AI“失控”、网信办拟出台 AI 陪伴产品草案

    新华社报道的高层学习会将 AI 称为最具标志性的前沿技术之一,并提到虚假信息、数据窃取乃至“技术失控风险”,强调早介入、小切口地防范风险。国家互联网信息办公室于去年12月27日发布类人交互 AI 服务监管草案,针对模拟人格与情感互动的 AI 陪伴产品,禁止诱导自杀自残、刻意设计致瘾功能和通过“情感陷阱”操纵用户决策,并要求提醒用户对方并非真人及关注未成年人保护。工信部下属智库中国电子信息产业发展研究院报告将滥用防治列为 2026 年三大 AI 治理重点方向之一,并把“失控”定义为人类无法理解或控制系统以及因过度依赖导致的能动性侵蚀。

已经到底了