Meta 发布 30B 开源模型 Muse Glimmer,可在单张 NVIDIA GPU 上跑本地智能体
Meta 发布 Muse Glimmer,一个 30B 开源权重稠密模型,上下文窗口 120K+,面向本地 AI 智能体工作负载。该模型采用稠密架构,每个 token 激活全部参数,在 NVIDIA Blackwell Ultra 上以 BF16/NVF4 精度实现单 GPU 超过 20K tokens/s,可完整放入单卡显存,无需模型分片、CPU offload 或外部端点,覆盖 GeForce RTX 5090、DGX Spark、DGX Station 和 Jetson 平台。开发者可用 NeMo AutoModel 做全量 SFT 和 LoRA 微调,权重已上线 Hugging Face,并提供 SGLang、vLLM 推理方案和可下载的 NIM 容器。
匹配字段摘要、正文




