Google 开源 TorchTPU,为 Cloud TPU 提供原生 PyTorch 后端
Google 开源 TorchTPU,这是与 Meta 的 PyTorch 团队共同开发的 Cloud TPU 原生 PyTorch 后端,在 PyTorch Conference 2026 上宣布,现有代码通过 torch.device("tpu") 即可指向 TPU。Google 团队称 TorchTPU 取代 PyTorch/XLA,建议所有新工作负载使用;它基于 PrivateUse1 接口,提供 Strict、Debug、DeferAndFuse 三种 eager 模式,torch.compile(backend="tpu") 经 StableHLO 和 OpenXLA 编译。TorchTPU 在 PyPI 上为 v0.2.0,要求 Python 3.11+,Apache 2.0 许可,配套 vLLM-TorchTPU、SGLang-TorchTPU 和 TorchTitan 仓库;Google 自报 TorchTitan 在 Ironwood 上训练 Qwen 3 8B 达到 52% MFU,可扩展至 8,192 颗芯片。
itan hit 52% MFU on Qwen 3 8B, scaling to 8,192 Ironwood chips. vLLM, SGLang and Hugging Face now run on TPU through standard PyTorch. Asif RazzaqWebsite | + postsBio ⮌ Asif RazzaqDeepSeek Open-Sources DeepInfer, the Inference Framework Behind DeepSeek-V4.1-Flash Asif RazzaqMiniMax Just Launched M3.1 Flash: 428B MoE Agentic Model at $0.15/M Input Asif RazzaqNVIDIA Open Sources Run:ai Under Apache 2.0 for Kubernetes GPU Orchestration RELATED ARTICLESMORE FROM AUTHOR DeepSeek Open-Sources DeepInfe
匹配字段正文






