Artificial Analysis 实测 Meta Muse Spark Open 推理吞吐
Artificial Analysis 在 AA-AgentPerf 上发布 Meta 新开源权重模型 Muse Spark Open 的初步测试结果,该模型为 816B 参数、42B 激活的 MoE,在 Artificial Analysis Intelligence Index 上得分 39。测试显示 NVIDIA B300 与 GB300 在吞吐优先配置下每兆瓦功耗均可达约 150M tokens/s,GB300 在 100 tok/s 输出速度下约 108M、B300 约 92M;AMD MI355X 在 65 tok/s 下为 70M tokens/s 每兆瓦。模型 62 层中有 46 层采用 2,048-token 滑动窗口注意力,使 1M 上下文下的 KV cache 需求较全注意力降低约 75%,Meta 发布了 NVFP4 checkpoint,AMD 发布了 MXFP4 checkpoint。
匹配字段摘要、正文
