Zyphra Inference Wave 2:在 MI355X 上加速 MoE 与长上下文推理服务
Zyphra 发布第二代推理优化 ZOE,在 AMD Instinct MI355X 上把 GLM-5.3 在 512K 上下文下的首 token 延迟(TTFT)从 178.8 秒降至 64.6 秒(2.8 倍),90% 前缀缓存命中时从 42.3 秒降至 11.8 秒(3.6 倍)。其 CSA top-K 选择 HIP kernel 让 DeepSeek-V4-Pro 在 1M 上下文下单用户解码吞吐从 43.5 提升到 61.1 tokens/s(1.40 倍)。GLM-5.3 的 AMD MXFP4 量化把模型从 756 GB 压到 410 GB,AIME25 等基准分数与 FP8 相差 3 分以内。

匹配字段摘要、正文


