Meta发布了性能强悍的Agent模型Muse Glimmer,并以宽松的Apache 2.0协议开源权重。
一个30B参数的模型,能跑在你自己的Mac或PC上,单张消费级GPU能用。多项Agent基准领先Gemma4和Qwen3.6,管日程、写代码、整理文件等,都可以在本地完成。
端到端任务完成上,它在DeepSearch QA、MCP-Atlas、τ-Bench、SWE-Bench等完整任务基准上成绩不错,能在scaffold(脚手架)里工作,写代码、调代码,把多轮请求从头到尾解决掉。
工具使用上,它能处理各种function calling(函数调用),在长工作流中始终用精确的schema调用工具。工具调用失败或返回意外结果时,它会诊断错误、重试。
多步推理上,它能在长周期里串联推理,在复杂冗长的工作流中保持计划连贯。
靠一个专门的perception encoder(感知编码器),它接受文本与图像交错输入,Agent能对着截图、图表、文档理解内容。
它还兼容OpenClaw等编排模式,支持不同推理强度,在质量和速度之间取舍,训练数据覆盖100多种语言。用途涵盖本地Agent、函数调用、本地编码、LLM-as-a-judge(大模型当裁判)评估。
Meta把它与Gemma4-31B、Qwen3.6-27B放在一批基准上对比,完整成绩见下表。
Muse Glimmer在多项Agent基准上领先明显。MCP Atlas拿到75.5,DeepSearch QA 74.6,τ³-Banking 23.5,WildClawBench 47.6,GAIA2 43.3,都是3个模型里最高。
编码侧SWE-Bench Pro 51.2、SciCode 43.6占先,推理与长上下文侧AIME 2026 94.7、AA-LCR 80.0、Beam 128K 65.1领先,多模态的Charxiv Reasoning 78.8也略胜一筹。
在其他基准上,也只是略微低于Qwen3.6-27B和Gemma4-31B。
开源社区已经证明,小模型训练得当,在目标任务上也能逼近前沿水平。Muse Glimmer正是为本地场景优化,面向随时待命的本地Agent工作流,小到能塞进一台Mac或单卡PC。
一个能管理日程、草拟消息、整理文件、学习你工作习惯的Agent,需要深度接触个人上下文,还需要多种能力协同,包括长程执行、精确工具调用、多模态理解、长上下文记忆、指令遵循。
Meta把Muse Glimmer设计成能力与本地硬件内存、算力之间的平衡,采用紧凑架构、新颖的distillation(蒸馏)配方,以及量化等推理优化。
训练分3个阶段。
预训练阶段,用logit distillation(logit蒸馏)学习老师模型Muse Spark的输出,数据配比与老师相似。
中期训练阶段,喂入更长上下文、更偏Agent的数据,推理轨迹更丰富,同时混入有机数据。
后训练阶段,把supervised fine-tuning(监督微调)与on-policy distillation(在策略蒸馏)、reinforcement learning(强化学习)结合起来,覆盖通用、推理、编码、Agent四大领域。
发布之前,Muse Glimmer还按Meta的Advanced AI Scaling Framework(先进AI扩展框架)完成评估,并针对开源权重发布,在所有相关类别接受审查。
本地Agent要真可用,速度得跟上。回复或规划一次要等几分钟, 节奏就断了。Meta对模型进行了优化,优化分两个方向,一个管内存,一个管速度。
全精度下300亿参数模型要55GB以上内存,远超任何消费级GPU的供给。
量化技术把权重压缩到约4-bit精度,语言模型缩到20GB以下。剩下的空间,刚好容纳模型的工作记忆,也就是KV cache(键值缓存),加上管图像理解的感知编码器,再加speculative decoding(投机解码)的drafter(草稿模型),全部装进24GB或32GB的内存 envelope 里。Meta验证过,压缩对Agent任务几乎不造成退化。
在长推理链、多步工具调用上,Muse Glimmer自带一个基于DFlash的轻量drafter,是个小型伴随网络,一次提出整块token,主模型并行验证。生成速度比逐token快得多,输出质量则保持不变。
发布里还提供量化版drafter,内存开销更小。
最终测速,用K-Quant-17GB模型加量化DFlash drafter,在MacBook M4-Max、M5-Max和RTX-5090上跑,速度足以支撑流畅对话和实时Agent交互,全程只在你自己的设备上运行。
权重已经放在Hugging Face,配套开发者文档,帮你搭建和运行自己的Agent。llama.cpp、MLX、ExecuTorch的优化集成也会陆续落地,从下载到Agent跑起来,只要几分钟。
想本地玩,用Ollama、LM Studio、Unsloth。想规模化部署,用vLLM、SGLang。想快速起步,走Together AI、Fireworks AI、OpenRouter。想定制,借PyTorch的TorchTitan训练功能继续调。
Meta还和AMD、Arm、Dell、Intel、NVIDIA合作,跨设备优化性能。
开发者想要构建,包括自定义scaffold的设置指引,资源都能在Meta的AI Developer Center找到。
https://developer.meta.com/ai/models/muse-glimmer/
Meta作为开放AI研究的先驱,如今又回到了开源的路上,还把这条路延伸到Agent方向,把本地Agent能力交到开发者手里。
参考资料:
https://research.meta.ai/blog/introducing-muse-glimmer-open-agentic-model
https://huggingface.co/collections/meta-models/muse-glimmer
免责声明:本文来自AIGC开放社区客户端,不代表超天才网的观点和立场。文章及图片来源网络,版权归作者所有,如有投诉请联系删除。