NVIDIA 量产 Rubin GPU 规格调整:HBM4 带宽降至 19.2TB/s…
NVIDIA Updates Rubin GPU Specs as First Production Hardware Arrives - ServeTheHome
NVIDIA 在 Rubin GPU 进入量产阶段时下调了官方规格,单卡 HBM4 内存带宽从 22TB/s 降至 19.2TB/s(约 11%),NVLink 带宽从 3.6TB/s 降至 3.0TB/s(约 17%),scale-out 网络带宽则从 0.4TB/s 提升到 0.45TB/s。Vera Rubin NVL72 整机同步调整,内存带宽从 1580TB/s 降至 1400TB/s,NVLink 从 260TB/s 降至 216TB/s,网络带宽从 28.8TB/s 升至 32.4TB/s,HBM4 容量维持 20.7TB。HGX Rubin NVL8 受影响最大,HBM4 容量从 2.3TB 减至 2.0TB,内存带宽下降约 26%,FP4 训练性能从 280 PFLOPS 降至 270 PFLOPS。
正文 · AI 翻译
FacebookXPinterestLinkedinReddItEmailPrintCopy URL
NVIDIA Rubin GPU
随着我们迈入2026年第四季度,NVIDIA及其合作伙伴正处于Vera Rubin产能爬坡的中期阶段,其中包括超大规模云服务商正向其客户普遍提供首批NVL72系统。随着Vera Rubin达到其量产铺开的临界点,NVIDIA也终于敲定了硬件出货规格。事实证明,该公司已悄然修订了这些规格:Rubin GPU如今提供的内存和纵向扩展网络(NVLink)带宽均低于NVIDIA此前宣传的水平,但横向扩展带宽有所提升。
据IT之家最初发现,NVIDIA于9月在其网页以及NVIDIA架构数据表中发布了Rubin GPU及各类基于Rubin产品的更新规格。需要说明的是,服务器硬件规格在产品发布前发生变化并不罕见,尤其是像Vera Rubin这样提前近一年就公布的产品。NVIDIA的情况也不例外,该公司此前曾指出这些规格为初步规格,且当时“所有数值均为上限,并可能发生变化”。
首先,让我们谈谈NVIDIA的Rubin GPU。作为NVIDIA在这一代产品上雄心的基石,NVIDIA的Rubin服务器GPU将应用于大大小小的系统,并成为更大规模项目的构建模块。
NVIDIA Rubin GPU规格
初步 出货
NVFP4推理 50 PFLOPS 50 PFLOPS
NVFP4训练 35 PFLOPS 35 PFLOPS
GPU内存带宽 22TB/秒
(8×2048@10.75Gbps) 19.2TB/秒
(8×2048@9.375Gbps)
NVLink带宽
(纵向扩展) 3.6TB/秒 3.0TB/秒
网络带宽
(横向扩展) 0.4TB/秒 0.45TB/秒
架构 Rubin Rubin
与NVIDIA的初步规格相比,单个Rubin GPU的HBM4内存带宽被明显下调。NVIDIA最初的目标是每个Rubin GPU达到22TB/秒的内存带宽。在8组HBM4内存的情况下,这意味着每组以约10.75Gbps/pin运行。但根据这些修订后的出货规格,单个Rubin GPU现在将提供19.2TB/秒的带宽,数据速率约为9.375Gbps/pin,净损失1.375Gbps,约11%。
这一规格变化出现之际,NVIDIA一直为HBM4规划着非常激进的数据速率。超大版本的这一高带宽内存规格已将每组内存总线宽度从1024位翻倍至2048位。与此同时,官方规格要求HBM4组的时钟频率略低于HBM3E,目标为8Gbps/pin。NVIDIA的10.75Gbps速率显著高于原始HBM4规格,即便其新下调的9.375Gbps数据速率仍高出不少。
NVIDIA CES 2026主题演讲 Rubin GPU
作为参照,NVIDIA的竞争对手AMD将在MI455X上以仅7.6Gbps/pin运行其HBM4组。因此,NVIDIA修订后的目标显著高于其他一些HBM4使用方。即便消息传出后,NVIDIA也未说明为何下调内存带宽规格。取而代之的是,人们直接推测NVIDIA及其内存合作伙伴无法兑现这些规格,原因可能是内存控制器速度、内存组速度、内存组良率(有多少能在目标速度下运行),或者也许是所有这些因素的组合。无论原因如何,最终结果是客户可用的GPU内存带宽减少,并带来性能影响。
与NVIDIA最初的预期相比,NVLink互连带宽也受到了影响。NVIDIA多GPU连接和纵向扩展互连结构的初步规格是每个Rubin GPU提供3.6TB/秒的NVLink带宽。如今这一数字降至整整3.0TB/秒,减少了600GB/秒(即17%)。NVLink是NVIDIA大力推动让众多物理GPU像单个GPU一样工作的领域,因此它通常会挑战可能性的极限。
虽然NVLink(纵向扩展)带宽被削减,但横向扩展网络带宽如今反而超出预期。对于单个Rubin GPU,NVIDIA提供450GB/秒的网络带宽,高于其初步规格的400GB/秒。
除这些变化外,NVIDIA未更改Rubin GPU的任何其他规格。理论(纸面)计算吞吐量保持不变,仍为50 PFLOPS的FP4推理和35 PFLOPS的FP4训练。因此NVIDIA已达成该GPU的时钟速度和内存容量目标。
Rubin的规格变化也将影响其将应用于的所有产品,最引人注目的是NVIDIA的旗舰产品Vera Rubin NVL72机架。NVL72展示了NVIDIA的所有技术,集成了其Vera CPU、BlueField-4 DPU,当然还有Rubin GPU。
NVIDIA Vera Rubin NVL72规格
初步 出货
NVFP4推理 3600 PFLOPS 50 PFLOPS
NVFP4训练 2520 PFLOPS 35 PFLOPS
INT8 18 POPS 250 TOPS
TF32 144 PFLOPS 2 PFLOPS
GPU内存 20.7TB HBM4 20.7TB HBM4
NVLink带宽
(纵向扩展) 260TB/秒 216TB/秒
网络带宽
(横向扩展) 28.8TB/秒 32.4TB/秒
对于NVL72,其规格也随着单个Rubin GPU的变化而同步修订。这意味着该机架级系统的累计GPU内存带宽已从1,580TB/秒降至1400TB/秒,净损失180TB(11%)。不过,与单个Rubin一样,NVL72的GPU内存容量保持不变,仍为20.7TB的HBM4。
该系统纵向扩展域的NVLink带宽也进行了调整。NVIDIA原计划在整个机架提供260TB/秒的带宽,现已下调至216TB/秒,降幅17%,与每颗Rubin GPU新的3TB/秒速率相符。
对NVL72而言,一线希望是它获得了与单个Rubin芯片相同的横向扩展网络带宽提升。因此,NVL72原本计划提供28.8TB/秒的网络带宽,现已提升至32.4TB/秒(双向)。这意味着对于大量使用横向扩展网络的大型部署,现在可用的带宽(理想情况下还有性能)比NVIDIA最初预计的更多。
除此之外,Vera Rubin NVL72的其余数据与早先的规格保持不变。NVL72机架能否在内存和NVLink带宽减少的情况下达到与最初设想相当的AI性能,似乎令人怀疑,但GPU计算硬件(及其对应的CPU)正按规格出货。
最后,除了基础Rubin GPU和NVL72机架的规格变化外,NVIDIA还修订了其基于Rubin构建的其他产品。这包括Vera Rubin超级芯片、Vera Rubin NVL4和HGX Rubin NVL8产品。最后一项在此特别提及,因为除了Rubin规格变化外,它自身还有进一步的变化。
NVIDIA HGX Rubin NVL8规格
初步 出货
NVFP4推理 400 PFLOPS 400 PFLOPS
NVFP4训练 280 PFLOPS 270 PFLOPS
FP8训练 140 PFLOPS 130 PFLOPS
TF32 16 PFLOPS 16 PFLOPS
GPU内存 2.3TB HBM4 2.0TB HBM4
NVLink带宽
(纵向扩展) 28.8TB/秒 24TB/秒
网络带宽
(横向扩展) 1.6TB/秒 1.8TB/秒
除了GPU内存带宽和NVLink带宽的削减外,NVIDIA还减少了NVL8系统中可用的HBM4内存容量。这些系统原定配备2.3TB的HBM4,但现在降至整整2.0TB,损失了300GB(即13%)的GPU内存。
NVIDIA的初步数据要求NVL8中的每颗Rubin GPU都是完整的Rubin,具备完整的288GB HBM4可用容量。然而,2.0TB的配置意味着每颗GPU只需约250GB的HBM4可用容量。这反过来只需要GPU的8个HBM4内存堆栈中的7个。
因此,NVL8是整个Rubin家族中内存带宽损失最大的产品。它的内存带宽不是仅损失11%,而是损失26%,约46TB/秒。每颗Rubin GPU将只有250GB至252GB的可用内存,每颗GPU的带宽为16.8TB/秒。
推理性能保持不变,FP4为400 PFLOPS,但FP4训练性能已从280 PFLOPS降至270,FP8训练也同样从140 PFLOPS下调至130。8路Rubin系统确实获得了与Rubin系列其他产品相同的网络带宽提升。该数字已从1.6TB/秒提升至1.8TB/秒。
最后,这些变化影响HGX NVL8的两个版本,以及基于NVL8平台的DGX系统。HGX Rubin NVL8(Rubin + x86 CPU)和HGX Vera Rubin NVL8(Rubin + Vera)都受到相同的GPU变化影响。
结语
看来NVIDIA不得不收敛其对Rubin GPU的雄心,以便以他们瞄准的规模将产品推向市场,同时下调了GPU HBM4内存带宽和NVLink网络带宽。这些变化的全面影响目前尚不清楚,因为并非所有工作负载都以相同方式受限于内存或网络带宽。在某些方面,这已是既成事实,因为这些变化从第一天起就适用于所有出货的Rubin硬件。尽管如此,未来几个季度仍将部署大量NVIDIA Rubin。
相关文章 更多来自作者
Microsoft Maia 300在OCP 2026上亮相
/.td-container