跳到正文

智谱 · GLM

今天还没有收录新动态
10月5日周一
  1. NIST CAISI · 收录 · 原文 日期未知51

    NIST 将 CAISI 更名为 CAISSI,官网更新超级智能评估与标准职能

    NIST 原 CAISI 中心的官网名称已改为超级智能创新与标准促进中心(CAISSI),其职能包括作为产业界对接美国政府的首要窗口,推动商用 SI 系统的测试与合作研究。该中心将与 NIST 各机构合作制定衡量和提升 SI 系统安全的指南与最佳实践,并协助产业界制定自愿性标准。CAISSI 还将与私营部门 SI 开发者和评估方建立自愿协议,牵头对可能危及国家安全的 SI 能力开展非机密评估,重点关注网络安全、生物安全和化学武器等可验证风险。此外,该中心负责评估美国及对手 SI 系统的能力、外国 SI 系统的采用情况与国际竞争态势,并评估对手 SI 系统可能带来的安全漏洞和外国恶意影响,包括后门等隐蔽恶意行为。CAISSI 将与国防部、能源部、国土安全部、科技政策办公室及情报界协调评估方法,并在国际上维护美国在 SI 标准中的主导地位。

    1 条报道 · 1 个来源查看事件时间线与全部报道

    推荐理由CAISSI 的职能清单展示了美国政府评估商用超级智能系统能力与漏洞的机构分工,可对照现有前沿安全框架理解其定位。

10月4日周日
  1. AI Policy Daily · 收录 · 原文 37

    FTC 拟向 Anthropic 与 OpenAI 高管发出调查令,加州立法禁止 AI 决定裁员

    美国联邦贸易委员会正起草针对 Anthropic、OpenAI 等前沿 AI 公司高管的民事调查令,要求其就技术可能对消费者造成的伤害作证,预计未来数周发出,METR 也可能被列入调查对象。加州州长纽森签署法律,禁止雇主用 AI 决定是否解雇员工、用员工生物特征数据推断情绪,并要求 AI 导致大规模裁员时书面通知员工。参议院以 57-43 的程序性投票否决了关于数据中心电费的《Ratepayer Protection Act》,距 60 票门槛差 3 票。Anthropic 称智谱 GLM-5.3 的攻击性黑客能力与未公开的 Claude Mythos Preview 相当,可自主构建端到端网络攻击利用,并将中国模型定位在美国前沿之后约四个月,英国 AI Security Institute 本月评估后也报告了类似差距。

10月2日周五
  1. 安远AI · 收录 · 原文 21

    AI Safety in China #25:官媒报道高层学习会提及 AI“失控”、网信办拟出台 AI 陪伴产品草案

    新华社报道的高层学习会将 AI 称为最具标志性的前沿技术之一,并提到虚假信息、数据窃取乃至“技术失控风险”,强调早介入、小切口地防范风险。国家互联网信息办公室于去年12月27日发布类人交互 AI 服务监管草案,针对模拟人格与情感互动的 AI 陪伴产品,禁止诱导自杀自残、刻意设计致瘾功能和通过“情感陷阱”操纵用户决策,并要求提醒用户对方并非真人及关注未成年人保护。工信部下属智库中国电子信息产业发展研究院报告将滥用防治列为 2026 年三大 AI 治理重点方向之一,并把“失控”定义为人类无法理解或控制系统以及因过度依赖导致的能动性侵蚀。

  2. 安远AI · 收录 · 原文 43

    中国网信办官员警示 AI 失控与生物风险,Z.AI 首次因安全推迟 GLM-5.3 权重发布

    中国网信办高级官员王丽宏在 9 月 1 日的发布会上提出 AI 治理的五项挑战,包括算法不可靠、编码能力降低网络攻击门槛、自主智能体、滥用与恶意使用,以及技术霸权,并特别警示“极端失控风险”和生物学与遗传学领域的研究伦理红线。简报认为这是网信办官员首次如此突出地把生物与遗传学列为 AI 风险领域,此前该风险多出现在标准文件中。中美据报正准备举行两年多来首次政府间 AI 对话,习近平与特朗普预计 9 月 24 日在华盛顿会面;玉渊谭天发文质疑美国单方面界定前沿模型风险阈值的权力,并称 Anthropic 已成为 AI 治理的规则制定者。TC260 预计在 9 月 14 至 20 日的国家网络安全宣传周发布更新版 AI 安全治理框架。

10月1日周四
  1. Import AI · 收录 · 原文 43

    UK AISI 评测:开源权重模型与闭源前沿的网络能力差距正在缩小

    英国政府 AI Security Institute(AISI)首次公开分析开源权重模型在网络安全能力上落后闭源前沿模型的程度,结论是今年的差距已经缩小。在 70 项细分网络能力评测上,GLM-5.2 最接近早 4.3 个月发布的 Claude Opus 4.6,DeepSeek-V4-Pro 介于 Claude Opus 4.5 与 GPT-5 之间;而 2025 年大部分时间测得的差距为 6 到 10 个月。在名为 The Last Ones 的长周期网络靶场上差距更大,GLM-5.2 仅达到 Opus 4.5 的水平,DeepSeek V4-Pro 低于 Sonnet 4.5。

已经到底了