跳到正文
原文
智源社区·本站收录· 原文发表· AI 动态 →· 扫描记录里的位置 →

美团开源 1.6 万亿参数 MoE 智能体模型 LongCat-2.5,自托管仅提供昇腾方案

美团开源 LongCat-2.5 权重:1.6 万亿参数 MoE Agent 模型,自托管指南未提供 Nvidia GPU 路径 - 智源社区

AI 导读

美团 LongCat 团队开源了 LongCat-2.5 的权重,采用 MIT 许可证,允许商用、修改与再分发;这是总参数 1.6 万亿的 MoE 模型,每个 token 约激活 480 亿参数,定位为执行编码等长程多步任务的智能体模型。官方自托管指南基于一套 194 卡华为昇腾 Atlas A2 集群与 CANN 软件栈,采用 Encoder、Prefill、Decode 分离部署,未给出 Nvidia GPU 的部署指引。模型对专家层权重和激活做 4-bit 量化(W4A4),美团称相较 W8A8 版本提示词处理吞吐提升 43.3%、生成吞吐提升 42.77%。

阅读原文hub.baai.ac.cn