Meta将Agent模型Muse Glimmer 30B压缩至端侧运行
Meta 于 2026 年 10 月 20 日发布 30B 开源权重模型 Muse Glimmer 的技术报告,该模型面向消费级硬件上的智能体任务,并以 4-bit 精度在单张消费级 GPU 上运行。转述者补充称,该模型在工具调用和多步规划上领先同规模开源模型,部分指标超过 Qwen3.6-27B 和 Gemma4-31B;4-bit 量化后约 17GB,目标在 24GB 显存设备上运行,采用 DFlash 推测解码在 RTX 5090 上约 233 tokens/s,相比普通解码提速约 3.1 倍。目前尚无后续发展事实。
匹配字段标题