Gabriel Weil, a law professor at the University of Houston and a participant in drafting the CLAIM Act, said the discussion draft could more clearly specify liability for harms caused by open-weight models, especially when developers are difficult to trace. The draft was introduced by Representative Lori Trahan (D-MA). Weil is a fellow at the Institute for Law and has drawn attention for studying AI liability issues following a series of "rogue" AI hacking incidents.
联合国反恐执行局(UNCTED)的 David Scharia 在 FAR.AI 于 UNGA 81 期间举办的 AI 与恐怖主义边会上警告,恐怖组织正从试验 AI 转向将其投入实际使用。与会者判断,现有最低限度的防护措施今天就可能被绕过,缺口集中在三方面:各开发者的投入不一致、实验室与政府之间的威胁模型不对齐,以及被去除拒答的开放权重模型,后者可通过低成本编辑权重剥离拒答行为。FAR.AI 已在博客发布完整回顾。
Oct 5Mon
Monday · 3 items
TThe Decoder, The Asia Business DailyThe Decoder · 2 sources · 2 reports · Attention4343
韩国计划通过政府股权投资4.7万亿韩元(约34.9亿美元)开发本土前沿模型,资金列入2027年预算草案,尚需国会批准;另一条资金轨道用于推动韩国自研模型在本国经济中的采用。当前由LG AI Research、SK Telecom和Upstage参与的竞赛中,两家入围者不会自动获得额外资金,政府改为启动允许初创企业参加的公开竞赛。官员承认韩国无法与最大的美国公司竞争,但可以比肩中国的领先开源模型。韩国科学技术信息通信部第二副部长柳济明表示,政府明年将投入4.7万亿韩元推进前沿AI开发,同时独立AI基础模型(独帕莫)项目不会中断,而是扩大和重组,形成双轨战略;独帕莫项目将于明年2月第三阶段评估中按计划选出最终2家企业,GPU等支持照常进行;前沿AI项目将另行公开征募,大企业、中小企业、初创企业均可参与,最终出资对象最快于明年2至3月选出。
Reflection, Help Net Security AI · 5 sourcesReflection · 5 sources · 6 reports · Attention4646
新加坡数字发展与信息部长 Josephine Teo 表示,前沿 AI 公司现有的护栏虽重要但不足以应对能力日益增强的系统,恶意用户仍可下载开源模型绕过护栏并隐藏滥用行为。她指出 AI 智能体可能误解指令、被恶意信息欺骗或获得过大权限,并以网购智能体被网站恶意指令诱导为例。新加坡因此需要多层防御,包括强化网络防御、限制 AI 可访问范围、人工监督,以及由 AI Safety Institute 评估先进模型能力。
Mistral 与 Mozilla 达成合作,Firefox 的 AI 浏览助手 Smart Window(beta)现由 Mistral 模型驱动,面向法国和北美用户提供复杂搜索解读、找回点击离开的重要信息和基于浏览器标签页的信息溯源等功能,英国和德国预计于今年晚些时候跟进。该助手的对话默认不保存在 Mozilla 服务器上,且 Mistral 承诺零数据留存,双方还针对地区语言和文化语境进行模型微调。
2026 年 7 月 19 日,Concordia AI 在上海世界人工智能大会(WAIC)举办前沿与智能体 AI 安全论坛,约 30 位专家参会、现场约 300 名观众,直播观看量超 30 万。图灵奖得主 Yoshua Bengio 在主题演讲中指出 AI 在推理、编程、科学与自主智能体能力上快速进步,而安全措施未能同步,并强调开放权重模型在撤回部署、移除护栏与风险评估上的独特挑战。论坛围绕前沿 AI 风险监测、智能体 AI 全生命周期安全治理与全球治理视角三大主题展开。
Mozilla CTO Raffi Krikorian 认为开源 AI 并非危险之路:撤销能力不是模型本身的属性,而是 API 合同条款,只对实验室自家客户有效,权重一旦公开便无法收回。他引用 Mozilla《State of Open Source AI》报告称,开源模型承担全球约三分之一的 AI 工作量,却只获得约 4% 的收入,79% 的开发者已用开源模型构建。
英国政府 AI Security Institute(AISI)首次公开分析开源权重模型在网络安全能力上落后闭源前沿模型的程度,结论是今年的差距已经缩小。在 70 项细分网络能力评测上,GLM-5.2 最接近早 4.3 个月发布的 Claude Opus 4.6,DeepSeek-V4-Pro 介于 Claude Opus 4.5 与 GPT-5 之间;而 2025 年大部分时间测得的差距为 6 到 10 个月。在名为 The Last Ones 的长周期网络靶场上差距更大,GLM-5.2 仅达到 Opus 4.5 的水平,DeepSeek V4-Pro 低于 Sonnet 4.5。
美国众议院国土安全委员会网络安全与基础设施保护小组委员会于 6 月 4 日举行题为“AI 安全格局”的听证会,讨论前沿模型、agentic AI 和 AI 编码工具如何改变网络安全与关键基础设施韧性。出席证人包括 Google 威胁情报副总裁 Sandra Joyce、Frontier Model Forum 执行主任 Chris Meserole、Corridor Security CEO Jack Cable 和 EFF 高级政策分析师 Matthew Guariglia。委员会主席 Andy Ogles 提到总统本周二签署的行政令,要求财政部、国土安全部等部门建立 AI 网络能力的保密基准流程,并设计前沿模型早期政府访问的自愿框架。听证还涉及中国开放权重模型、对抗性蒸馏和供应链风险,Jack Cable 称美国目前尚无前沿开放权重模型,Guariglia 则呼吁关注隐私与公民自由。