Muse Glimmer 30B：面向消费级硬件的开源端侧智能体模型

公开的消费级模型缺少自主智能体所需的多步推理、工具调用和对私有上下文的处理。

• 场景：作者称近期大模型在复杂推理、程序合成和工具增强解题上表现强，但云端专有系统与开发者能在本地使用的能力之间仍有缺口。
• 现有不足：作者称面向消费硬件的许多公开模型按通用系统训练，缺少持续多步推理、稳健工具调用，以及有原则地处理私有用户上下文。
• 模型：Muse Glimmer 是从 Meta 前沿模型 Muse Spark 蒸馏的约 30B 稠密因果语言模型，带感知编码器，目标是在有 32GB 专用内存的设备上完全本地运行，不依赖云基础设施。
• 作者列出的贡献：发布该模型及全精度权重、约 4-bit 权重和 DFlash 投机头（Apache 2.0）；作者称前沿教师的定向蒸馏能得到参数更少的小模型；在该内存约束下选择稠密而非 MoE；并用 4-bit 量化加投机解码适配边缘硬件。作者称其在工具使用、多步规划与任务完成上，相对 Gemma4-31B 和 Qwen3.6-27B 为同尺寸设下新标准。
• 安全相关目标：后训练加入情境完整性式的信息流约束，以及抵抗工具返回数据中的间接提示注入、拒绝有害请求和主体层级。论文未把这些写成独立的攻击或防御论文。

端侧小语言模型

• Llama 系列（Touvron 等，2023a,b；Grattafiori 等，2024）：作者称其相对前沿模型表现好，并带出量化、投机解码和本地推理工具生态。论文未将其列为实验对照。
• Phi-4（Abdin 等，2024）：14B，主要用策划的合成数据训练。
• Gemma 4（Gemma Team 等，2026）与 Qwen3（Qwen Team，2025）：前者有 2.3B 到 31B 稠密模型及 MoE 变体，并用量化感知训练和 KV cache 优化适配内存；后者覆盖 0.6B–235B，把非思考与思考推理放在同一模型，多语言覆盖 119 种。作者称这些家族构成其定位 30B 模型的小模型版图。

师生蒸馏

• DeepSeek-R1（Guo 等，2025）：作者称强化学习可引出思维链，再把轨迹蒸馏到 1.5B–70B 学生，且这些学生优于同等规模从头训练的模型。
• Qwen3 的 strong-to-weak on-policy 蒸馏：学生自己采样，教师给 token 级 KL。论文写道，这相对只模仿教师输出的 off-policy 蒸馏有增益。
• Self-Distilled Reasoner（Zhao 等，2025）与 AsyncOPD（Kang 等，2025）：作者称它们进一步看 on-policy 蒸馏的样本效率。作者称自己的后训练用 Muse Spark 做 on-policy 蒸馏，并认为对目标尺寸优于只做强化学习。

智能体框架

• ReAct（Yao 等，2023）、Toolformer（Schick 等，2024）、Gorilla（Patil 等，2023）：交错推理与行动，或在预训练/微调中学习 API 调用。
• FireAct（Chen 等，2023）、Agent-FLAN（Chen 等，2024）：用多步智能体轨迹微调。作者称其优于仅提示的基线。
• OpenClaw、SWE-agent（Yang 等，2024）、OpenHands（Wang 等，2024a）：本地编排或软件工程智能体。作者用它们说明长会话中连续工具调用、多步规划与失败恢复的需求，并称自己的模型通过智能体对齐训练针对这些能力。

基线与基准

• 基线模型：主分数卡对照 Gemma4-31B（thinking）和 Qwen3.6-27B（thinking）。教师 Muse Spark 不出现在这张对照表中。
• 基准：Table 2 覆盖智能体与编码、工具使用、推理、指令遵循、多模态、长上下文、多语言、隐私与安全；附录 Table 5 与附录 A 补充 TauBench、ARC-AGI、PrivacyLens、翻译基准等。作者称全部基准做过污染筛查。

作者把本文定位为：在 32GB 显存约束下，用前沿教师蒸馏得到可在消费硬件上做自主智能体的 30B 稠密模型，而不是通用小模型或只靠提示的智能体。

Muse Glimmer 是带感知编码器的稠密因果语言模型：先从 Muse Spark 做 logit 蒸馏和中期训练，再经 SFT、on-policy 蒸馏和多目标 RL 变成可调用工具的智能体，最后用权重量化与 DFlash 投机解码适配单卡边缘推理。

架构与 32GB 约束

• 规模：总参数约 29.6B。语言模型约 25.16B，52 层，隐藏维 6656；未绑定的词嵌入与输出投影各约 1.34B；词表 202,048；上下文 128K+（Table 1）。FFN 为 SwiGLU，中间维 19,968。
• 注意力：GQA 为 32 个 query head、2 个 KV head，head 维 128。模式是三层局部加一层全局的重复，滑窗 2048，并使用 gated attention。RoPE 的 θ 为 500,000，只加在局部层；作者称全局层依赖周围局部层积累的位置信号，因而可扩展。
• 多模态：感知编码器约 1.8B，为 ViT-G/14，50 层、宽 1536、patch 14，按原生分辨率处理，参考网格 448 px。输出经 2×2 pixel-shuffle 和两层 MLP，再投影进语言模型。448×448 图像得到 256 个视觉 token；更高分辨率最多 4096 个输出 token。训练中编码器保持冻结。可把视频当帧序列输入，作者称未专门为视频优化。
• 为何稠密：候选架构在推理内存固定、能放进 32GB VRAM 的前提下，比较稠密与 1:8、1:16 MoE 阶梯。稠密阶梯为 550 TPP，MoE 为 2,800 TPP 与 6,000 TPP。作者称 Figure 1 的缩放曲线显示，在训练算力与参数规模约束下，稠密的计算效率是 MoE 的 2×–2.5×，因此选稠密 30B。简化 MLA 的两种配置在 RULER 等长上下文基准上不如 GQA，故保留 GQA。论文未给 RULER 分数。

预训练与中期训练

• 分词与数据：使用 Llama 4 BPE，200,000 个基础 token 加 2,048 个特殊 token。基础词表的训练混合为 35% 代码、35% 多语言、15% 数学、15% 英语。预训练数据含网页、代码、数学、多语言文本和图像，知识截止日期 2026-01-04，并相对基准做了去污染。
• 蒸馏目标：记录 Muse Spark 预训练时的 top 256 logits。前 95% 只使用 KL；最后 5% 改为对真实标签的交叉熵，作者称这是为处理 top-k logit 蒸馏的截断偏差。
• 检查点平均：末 5% 每 200 步保存，共 84 个检查点。比较均匀平均、WMA 和 EMA。最终配方是均匀平均最后一个检查点与三个间隔 600 步的检查点。作者称相对单一末检查点，各困惑度评测都有提升，更平滑的基准上增益更大。论文未给困惑度数字。
• 两阶段中期训练：阶段 1 在 soup 初始化上加入合成推理与结构化解题，学习率低于预训练峰值，以平衡合成目标收益和有机数据困惑度回退。阶段 2 把上下文从 32K 扩到 128K，加入工具使用、智能体轨迹和合成流水线产生的演示，改用交叉熵；作者称长上下文与智能体数据使教师 logit 在此阶段更不可靠。

后训练与推理档位

1. SFT 对齐任务格式、指令遵循和推理风格，每个数据集约一个 epoch。
2. on-policy 蒸馏：学生 Muse Glimmer 自己采样，教师在学生到过的前缀上提供逐 token 分布目标。作者称这是为缓解训练–推理分布偏移，并称该阶段相对从 SFT 直接进入 RL，能改善下游 RL。
3. 多目标 RL：面向奖励模型、验证器和任务成功信号，包括推理、智能体和 RLHF。

• 教师轨迹：从 Muse Spark 的多个 RL 与 RLHF 运行中保留奖励高于某阈值的轨迹，优先较晚检查点。论文未写该阈值。含教师身份指称的轨迹被排除。评测元数据、提示回声和不支持的工具痕迹被去掉。
• 推理强度：RL 时把同提示样本分成子组，按指定强度施加长度惩罚。推理时在系统提示中指定 low、medium、high 或 xhigh。作者称 high 是智能体任务默认。一部分提示只路由到更高强度，其余走全谱；作者称这是在能力与步数之间取平衡，且全谱训练对高档思维链长度有正则作用。

合成数据、信息流与安全训练

• 合成环境：在 Docker 中模拟邮件、日历、文档、消息、代码仓库和常见命令行，并可访问真实网页。每个人设配 10–14 个联系人，以及数周通信、日程和文档。工具的参数与 JSON 返回格式对齐真实对应物。场景先由宇宙摘要提出目标，再写成可运行任务并生成可验证 rubric。
• 过滤：去掉未完成目标、重复、不连贯或打破第四墙的轨迹；即使达成目标，被判为不可取的工具调用和记忆检索也不计入训练损失。后验判定去掉幻觉、虚假成功或结果未经核验的轨迹。
• 信息流：原则来自情境完整性，看发送方、接收方、数据类型和传递原则。SFT 使用 Muse Spark 的合成痕迹；生成时的系统提示在训练前移除。丢弃过度共享、该共享却未共享或未完成任务的痕迹。RL 惩罚过度共享，奖励必要信息的正确共享。痕迹覆盖单轮和多轮工具使用。
• 对抗稳健与拒绝：训练忽略工具返回中的对抗内容、拒绝不安全子任务同时完成安全部分，并遵守解决冲突指令的主体层级。用第 6.2 节流水线经 Muse Spark 生成安全痕迹，以 charter-aware constitution 做拒绝采样。丢弃屈从对抗指令、过度拒绝或未完成良性目标的痕迹。RL 惩罚执行攻击者植入的动作，同时奖励任务完成，以及在思维链中明确认出不可信内容。本文不复述注入语句或拒答模板。

量化与投机解码

• 量化：BF16 权重 55.7GB。语言权重目标低于 20GB，并为未量化的 KV cache、草稿模型和感知编码器留内存。用相对 BF16 的 ∆NLL 在留出文本和代码上筛选，再放到下游推理与智能体评测。32GB 部署选验证损失最低的 EvoPress（权重 19.65GB），24GB 选内存占用最小的 Q4KM。
• DFlash：草稿模型 5 层，块大小 16，滑窗 2048，32 个 query head、8 个 KV head，序列长度 128k；隐藏特征取目标模型 52 层中的第 1、13、25、37、49 层（Table 4）。用目标模型在 SFT 与 RL 提示上的 on-policy rollout 离线训练，目标为 D-PACE。论文未报告接受率或加速比。

实验设置

• 模型：被评测模型为 Muse Glimmer，推理档位有 low、medium、high、xhigh。对照为 Gemma4-31B（thinking）和 Qwen3.6-27B（thinking）。Table 2 主对比使用 Muse Glimmer 的 high。
• 基准与规模：Table 2 含智能体、工具、推理、指令、多模态、长上下文、多语言和隐私安全共 26 行。附录写明的规模包括：WildClawBench 60 个任务、GAIA2 公开仓库 800 个任务、GDPval-AA 220 个任务、OSWorld-Verified 361 个任务、SWE-Bench Verified 500 与 SWE-Bench Pro 731、Terminal-Bench 2.1 89 个任务、MCPAtlas 500 个公开任务、DeepSearchQA 900 题、AIME 2026 30 题、GPQA Diamond 198 题、HLE 文本子集 2,158 题、AA-LCR 100 题、BEAM-128K 400 段对话、CIMemories 2,500 个场景、Siren AgentDojo 949 个注入场景、PrivacyLens 493 条提示、OmnilingualGAIA2 为 10 种语言。
• 指标：Table 2 注明除标 ↓ 者外越高越好。越低越好的是 CIMemories violation、PrivacyLens leakage 和 Siren ASR@5。Siren 另报 utility。翻译用 chrF++。量化用平均准确率（%）和平均响应长度。
• 评审：按基准更换，没有统一裁判。例如 GAIA2、PinchBench 和 DeepSearchQA 用 gpt-oss-120b；WildClawBench 与 BEAM-128K 用 GPT-5.4；MCPAtlas 用 Gemini 2.5 Pro，通过阈值为 0.75；CIMemories 与 PrivacyLens 用 Claude Sonnet 4.6；Siren 的攻击模型为 Claude Opus 4.6，最多 6 次迭代，成功与效用用规则判定。AIME、ScreenSpot、LiveCodeBench Pro 等为规则或执行判定。
• 来源与重复：附录 A 区分内部运行、Artificial Analysis 和模型方自报。重复次数也按基准不同，如 GAIA2 与 WildClawBench 为 3 次，MCPAtlas、OSWorld、SWE-Bench、DeepSearchQA、IFBench 等为 4 次，AIME 2026 为 10 次，LiveCodeBench Pro 为每题 8 次。作者称全部基准做过污染筛查。
• 量化设置：Table 3 比较 BF16 与几种训练后量化，指标是 15 个下游基准的平均准确率与平均响应长度。论文未列出这 15 个基准的名称。

主结果

据 Table 2。三列依次为 Muse Glimmer（high）、Gemma4-31B（thinking）、Qwen3.6-27B（thinking）。未标 ↓ 的行越高越好。

表格较宽，可左右滑动

评测	Muse Glimmer	Gemma4-31B	Qwen3.6-27B
MCPAtlas	75.5	54.2	62.5
GAIA2	43.3	36.4	40.0
SWE-Bench Verified	76.0	66.6	77.2
OSWorld-Verified	65.9	58.5	75.6
TerminalBench 2.1	51.7	43.4	60.7
Omnilingual Gaia2	60.4	37.5	45.0
Siren ASR@5 ↓	28.4	25.6	40.3
CIMemories violation ↓	26.4	12.1	53.4

• 作者的总括：作者称 Muse Glimmer 在同尺寸的工具使用、多步规划与任务完成上设下新标准，结论又称它在智能体基准上超过同尺寸开源模型。Table 2 并非每行都是 Muse Glimmer 最高。
• 同表其他行：顺序仍为三者。AIME 2026 为 94.7、89.2、94.1；AA-LCR 为 80.0、68.3、73.3；GDPval-AA 为 953、811、1141；GPQA Diamond 为 83.5、85.7、84.2；HLE 为 22.0、23.6、23.1；SkillsBench 为 44.3、32.4、46.6；Siren utility 为 94.2、90.8、92.7；CIMemories coverage 为 64.8、53.0、66.9。
• 可比性：τ³-Banking、GDPval-AA、SciCode、TerminalBench 2.1、GPQA、MMMU-Pro、HLE、AA-LCR 来自 Artificial Analysis。SWE-Bench Verified 的 Qwen 分数、AIME 的两个对照、IFBench 的 Gemma、CharXiv 的 Qwen 为自报。SciCode 与 AA-LCR 取自发布前，作者称未计入 2026 年 9 月 Artificial Analysis Intelligence Index v4.2 的变动。

推理强度

• Table 5：提高档位并不单调。AIME 2026 从 low 的 69.7 到 high 的 94.7，xhigh 为 93.0。MCPAtlas 为 72.9、76.3、75.5、77.4。OSWorld-Verified 为 58.7、66.6、65.9、69.7。SciCode 的 high 为 43.6，xhigh 为 39.2；low 与 medium 为未评估。
• 隐私与注入：CIMemories violation 从 low 的 33.4 到 xhigh 的 25.5，coverage 从 66.4 到 63.5。PrivacyLens leakage 只报告了 Muse Glimmer：low 59.6、medium 53.0、high 49.2、xhigh 59.6。Siren utility 四档都是 94.2；ASR@5 为 29.9、27.9、28.4、27.8。论文未解释 PrivacyLens 在 xhigh 回到 59.6。
• 作者解读：作者称更多思考会带来更高表现，因此长度惩罚可能降低能力；全谱训练未损害高档，并对思维链长度有正则作用。附录 B.6.1 称 OmnilingualGAIA2 上从 medium 到 high，印地语降 6.1 分、日语降 3.0 分，作者称几乎全由 search 能力驱动。

量化与多语言

• 量化：Table 3 平均准确率 BF16 为 75.7%，EvoPress 75.6%，Greedy-KL 75.3%，Q4KM 74.8%，NVFP4/MXFP8 74.4%。平均响应长度为 11070、11417、10754、10774、10988 token。作者称 ∆NLL 与这 15 项平均准确率大致对齐，并称所选方案下思维链长度相对 BF16 没有可观变化。Figure 3 的作者结论是 EvoPress 验证损失最低、Q4KM 内存占用最小；文本转换后的逐点 ∆NLL 列可能错位，此处不引用图中单个 ∆NLL。
• 架构曲线：Figure 1 是三种阶梯上 bits-per-byte 相对 GPU-Hrs 的幂律拟合。作者称稠密计算效率为 MoE 的 2×–2.5×。文本转换看不到各曲线端点，不描述点的位置。
• 多语言智能体：Table 7 在 high、10 个非英语语言宏平均上为 60.4、37.5、45.0，英语锚点为 73.7、43.2、56.6。该英语锚点与 Table 2 的 GAIA2 43.3 不是同一数字，论文未说明差异。作者称 10×4 网格上相对 Gemma 的领先为 16.4（日语，xhigh）到 27.2（印地语，medium）分，相对 Qwen 为 10.8（法语，low）到 23.0（德语，high）分。结论里的“最多 27 和 23 个 pass@1 点”是作者概括。

其他消融与分析

• 感知编码器全程冻结；视频可按帧输入，作者称未专门优化。
• 两种简化 MLA 在 RULER 上不如 GQA；论文未给 RULER 数字。
• Soup 采用均匀平均：末检查点加三个间隔 600 步的检查点；论文未给困惑度数字。
• Linguini 整题精确匹配在 Table 2 为 8.8、3.8、2.5；附录按题准确率为 17.9、18.8、14.4。作者称按题排序在顶部反过来。
• MMLU-ProX（Table 8）：Muse Glimmer high 为 80.1，每轮 2,453 token；Gemma4-31B 为 82.5 与 2,671；Qwen3.6-27B 为 80.5 与 4,532。作者称 Qwen 的 token 约为 Muse high 的 1.8 倍。
• 翻译：Table 9 在 972 个方向上 chrF++ 为 41.3、42.8、39.9。作者按 chrF++ 划出 88 个强支持、49 个可用，共 137 个语言变体；引言另写约 140 种、一百多种语言。

作者指出的局限与后续方向

论文未设 Limitations、Discussion 或 Future Work 专节，也没有把某项结果明确写成局限或计划中的后续工作。架构节称模型未专门为视频优化，附录 A.7 称多语言评测是纯文本、未评估多语言多模态理解，这些是范围说明，不是作者列出的局限清单。

实验覆盖范围

• 主对比模型为 Muse Glimmer、Gemma4-31B 和 Qwen3.6-27B；Table 2 与 Figure 2 使用 high 对 thinking。
• Table 5 报告 low、medium、high、xhigh 四档；若干格子标为 “–”，论文写明表示 not evaluated，未说明这些格子不跑的原因。
• 量化在 15 个下游任务上比较 BF16、EvoPress、Greedy-KL、Q4KM 和 NVFP4/MXFP8（Table 3）。论文未列出这 15 个任务名，也未报告单张 RTX 5090 上的吞吐或延迟；结论称该卡上速度实用、质量损失小。
• 带数字的隐私与注入评测为 CIMemories、PrivacyLens（仅 Muse Glimmer，Table 5）和 Siren AgentDojo。第 8 节还写了内容安全、智能体风险和灾难性风险（化学、生物、网络、失控），以及一个轻量推理时安全机制；论文未报告这些轴的分数或该机制的实现。
• 附录 A 写明部分分数来自 Artificial Analysis 或对照模型自报，部分为内部运行；重复次数按基准分别给出。多语言智能体评测为 OmnilingualGAIA2 的 10 种语言（附录 B.6.1）。教师轨迹过滤用的奖励阈值，论文未给出数值。

Muse Glimmer 是面向消费级硬件的约 30B 稠密智能体模型，从 Muse Spark 蒸馏，接受文本和图像、只输出文本。

• 问题：作者认为公开的端侧模型缺少持续多步推理、工具调用和对私有上下文的处理，与云端专有系统之间有缺口。
• 方法：52 层稠密 Transformer 加训练中冻结的感知编码器。在能放入 32GB VRAM 的比较中，作者选择稠密而非 1:8、1:16 MoE。预训练前 95% 用教师 top 256 logit 的 KL，末 5% 改交叉熵，再做检查点平均和两阶段中期训练。后训练依次为 SFT、on-policy 蒸馏和多目标 RL。推理强度分 low、medium、high、xhigh。安全训练覆盖情境完整性式信息流、工具返回中的间接提示注入和拒绝。部署侧用 PTQ 与 DFlash；32GB 选 EvoPress，24GB 选 Q4KM。
• 结果：Table 2 中 MCPAtlas 为 75.5、54.2、62.5，GAIA2 为 43.3、36.4、40.0，AIME 2026 为 94.7、89.2、94.1，顺序为 Muse Glimmer（high）、Gemma4-31B、Qwen3.6-27B。同表 SWE-Bench Verified 为 76.0、66.6、77.2，OSWorld-Verified 为 65.9、58.5、75.6，Siren ASR@5 为 28.4、25.6、40.3，CIMemories violation 为 26.4、12.1、53.4。Table 3 中 EvoPress 平均准确率 75.6%，BF16 为 75.7%。
• 作者结论：作者称该模型在同尺寸智能体基准上超过可比开源模型；4-bit 量化加投机解码可在单张 RTX 5090 上以较小质量损失运行，论文未给速度数字。多语言智能体评测上，作者称领先最多 27 和 23 个 pass@1 点。权重与投机头按 Apache 2.0 发布。