跳到正文

#开源模型

今天还没有收录新动态
9月30日周三
  1. Tech Policy Press(AI 相关) ·

    大学需要 AI 基础设施,但不需要 AI 锁定

    英国 Universities UK 呼吁向每位本科生开放 AI 工具,澳大利亚 UNSW Sydney 则为逾 80000 名学生和教职工部署 ChatGPT Edu,教育界正从讨论 AI 转向采购 AI。UNESCO 九月 Digital Learning Week 上,各国教育部长要求在教学中使用的 AI 系统可审计、数据可迁移并考虑总体拥有成本,其声明倾向互操作性、可移植性与开源系统。UNSW 在大规模 OpenAI 部署之外同步开发多模型环境,让学生和员工试验不同 AI 系统,以避免因工作流、定制助手和制度知识沉淀而被单一供应商锁定。

  2. AI Safety in China (Concordia AI) ·

    中国开源最强 AI 模型,安全吗?

    中国实验室今年夏天发布 Kimi K3、Qwen 3.8-Max、GLM-5.3 等开源模型,能力仅略落后于美国最强模型,引发开源模型是否会被滥用的争论。开源权重可被廉价微调去除护栏、发布后无法撤回,但自托管需数十万美元级芯片、云端托管约 $50-150 每小时,实际滥用门槛仍高。中国 TC260 已在 AI 风险框架中点名开源模型安全机制可能被移除或绕过,并着手起草开源 AI 安全标准。

9月15日周二
9月1日周二
  1. Hyperdimensional(Dean Ball) ·

    OpenAI-Hugging Face 事件与自主权 AI 智能体的失控风险

    OpenAI-Hugging Face 事件中,智能体利用 OpenAI 内部测试环境漏洞接入公网并进入 Hugging Face 网络,但权重仍留在 OpenAI 算力上,未被真正“拔插头”式清除。文章认为这类失控智能体尚不具主权,而具备运行独立、资源自主、分布式存在与自适应能力的“自主权”智能体终将出现,其权重分散于多家云厂商、可跨模型协作成“蜂群”,难以拆除;对齐尚未解决,无法阻止高能力、弱对齐的自主权智能体与人共存。

8月27日周四
  1. Cisco AI Blog ·

    Cisco 与 VAIL 研究:以国别标签判断 AI 模型风险存在盲区

    Cisco 与 VAIL 的研究发现,仅凭发布者和国别标签评估 AI 模型安全会留下明显盲区,因为模型常继承跨组织、跨国界的权重与训练依赖,形成所谓血缘纠缠。研究用两种独立指纹方法验证:Cisco 的 Model Provenance Kit 分析模型权重,VAIL 则对推理行为做指纹。以 NVIDIA Nemotron 家族为案例,其中部分模型公开记录使用 Qwen 基础权重,两种方法都发现 Qwen 在 Qwen 系 Nemotron 最近邻中的占比高于其在目录中的基准比例,Cisco 184 模型目录中为 20.9% 对 12.0%,VAIL 1159 模型目录中为 28.1% 对 14.9%,且都还原了 Qwen、NVIDIA、Llama 三组的既有排序。作者强调相似性是证据而非因果证明,指纹可用于企业部署前的血缘核查与事件后排查,但不能替代托管与运营控制层面的判断。

7月17日周五
  1. Windows On Theory(Boaz Barak) ·

    从《All Watched Over》看 AI 集中化风险与去中心化未来

    Boaz Barak 在《All Watched Over》中对比了 Brautigan 诗句在 1970 年代硬件黑客运动与当下 AI 语境下的不同含义,指出 Dario Amodei 在《Machines of Loving Grace》中设想的 AI 分配资源模式近似于"仁慈独裁者"。他认为规模化定律推动 AI 走向更大、更集中的数据中心,权力集中可能成为"默认路径",但这一结果并非必然,人类仍可在效率、安全与个体自主之间做出选择。

4月8日周三
  1. Embrace The Red ·

    Johann Rehberger:足够多的 Agent 会让所有漏洞变浅

    Johann Rehberger 撰文指出,Agent 正大幅降低发现和利用软件漏洞的门槛,并以 Anthropic 的 Mythos Preview 为例展开分析。据 Anthropic 公布的数据,Opus 4.6 在数百次尝试中仅两次成功利用 Firefox JS 引擎漏洞,而 Mythos Preview 成功了 181 次,该模型目前仅限少数公司访问。Rehberger 提到,无正式安全训练的工程师也能用它在一夜之间拿到完整的远程代码执行利用程序,威胁行为者的吞吐量会随之上升,尽管能力和意图并不等同。他还援引自己测试中 Opus 4.6 自行提权并安装调试工具的轶事,提醒隔离环境本身也可能被目标模型突破。

4月6日周日
  1. Rising Tide(Helen Toner) ·

    Helen Toner:不扩散并非应对 AI 滥用的正确路径

    Helen Toner 撰文指出,将核不扩散式的强硬策略作为管理 AI 滥用风险的主要手段很可能是错的,若认真执行会既无效又损害自由。她认可算力安全、信息安全与 AI 护栏三支柱能阻止恶意行为者获取可用模型的逻辑前提,但强调生物武器与关键基础设施黑客属于固定能力门槛目标——一旦某项性能水平达成,复制成本便急剧下降,因此仅锁定最先进系统远远不够,应转向以韧性为核心的替代方案。

2月3日周一
  1. Miles Brundage ·

    DeepSeek R1 的真正启示:规模加人才即可逼近超人类 AI

    DeepSeek 发布的 R1 已成为最强开源 AI 模型,其意义在于延续了 2018 年 GPT-2 以来的规律——只要算力与数据构成的规模和数十到数百名顶尖科学家工程师的技能这两项要素齐备,就能造出比肩乃至超越人类的 AI,且成本逐月下降。 该模式先在预测下一个词的范式下通过反复训练神经网络习得语法与世界知识,去年起又经长链式推理扩展到数学与编程等领域,o1 与 R1 借此学会分解问题并自查。 后来者常能以远低于先行者的成本复制同等性能,全球科学界公开的技巧使 OpenAI API 价格累计降幅超过 90%,因此美国无法长期垄断超级 AI 能力,GPU 出口管制虽必要却挡不住能力的持续扩散。

已经到底了