PyTorch 宣布成立 Ray 加速器特别兴趣小组(SIG)
PyTorch 宣布成立 Ray 加速器特别兴趣小组(SIG),联合硬件厂商、Ray 贡献者与应用开发者制定厂商中立的加速器支持路线图。该小组初期聚焦开发与测试基础设施、硬件感知调度、网络与传输三大方向,Ray 目前已支持 NVIDIA、AMD GPU 及 TPU、Trainium、Gaudi 等十余种加速器。

计算”指的是运行 Apache Hadoop 和 Apache Spark 等框架的 CPU 集群。GPU 才刚刚从图形和科学计算领域进入机器学习。 如今, 加速计算 已成为人工智能开发与部署的核心,加速器及其能力也变得更加专用化和多样化。例如: NVIDIA RTX PRO 6000 Blackwell 服务器版 GPU 支持涵盖 AI 训练、推理、图形和视频的灵活工作负载 NVIDIA HGX B200 及全栈平台提供大幅提升的内存容量以支持更大的模型,而 NVIDIA GB200 NVL72 连接 72 块 NVIDIA Blackwell GPU,用于通信密集型的大规模训练和推理。 AMD MI355X 同样为大型模型提供可观的显存容量 Google Ironwood TPU 面向超大规模 AI 工作负载 NVIDIA Groq 3 LPU 专注于低延迟推理。 Ray 社区一直在积极跟进这一转变。如今,Ray 支持十余种硬件加速器,从 NVIDIA 和 AMD GPU 到 TPU、Trainium、Gaudi 等。我们认为,现在正是关键时机,在这一基础上开展更宏大、更系统化的全
匹配字段正文




