←新闻详情

新浪科技更新于 11月3日 10:10

英伟达 Rubin 出货规格调整:显存带宽降 11%,对外网络升 12.5%

物理AI抢算力,英伟达Rubin算力没缩水,为什么带宽先降了?

AI 导读

英伟达 9 月更新的 Rubin 出货规格显示,单颗 GPU 的 NVFP4 推理算力 50 PFLOPS、训练 35 PFLOPS 和 288GB HBM4 显存保持不变,显存带宽从 22TB/s 降至 19.2TB/s,NVLink 从 3.6TB/s 降至 3.0TB/s,对外网络带宽则从 400GB/s 升至 450GB/s。机架级 NVL72 同步等比调整,显存总带宽从 1580TB/s 降至 1400TB/s,对外网络从 28.8TB/s 升至 32.4TB/s;八卡 HGX NVL8 变化最大,显存从 2.3TB 降至 2.0TB,总带宽降幅 26%。文章称新规格从出货第一天起适用于所有 Rubin 硬件,英伟达未解释下调原因,作者认为这是针对跨机架通信加重所做的系统级重新配比。

推荐理由

AI 评分 60

文章逐项对比 Rubin 出货规格的带宽变化,并解释显存、互连与对外网络为何重新配比。

主题

标签

正文

期货推广begin 期货推广end 秒拍begin 秒拍end 视频播放器start 视频播放器end 行情图begin 行情图end

来源:芝能汽车article_adlist[

芝能智芯出品 ]article_adlist

甲骨文宣布Vera Rubin NVL72在OCI云平台进入通用可用,Rubin开始真正给客户跑业务。

英伟达9月悄悄更新的出货规格被翻了出来:算力和显存容量是一样的,两条内部带宽一起下调,对外网络反而加宽。Rubin发布接近一年,官方一直标注数值可变。

新规格从出货第一天就适用于所有Rubin硬件,没有过渡期。

单颗Rubin GPU,NVFP4推理算力50 PFLOPS、训练35 PFLOPS,288GB HBM4由8组36GB堆栈组成,这些全部不动。

变化的是这些:

◎显存带宽从22TB/s降到19.2TB/s,对应引脚速率从10.75Gbps降到9.375Gbps,降幅约11%;

◎NVLink从3.6TB/s降到3.0TB/s,降17%;

◎面向外部网络的带宽从400GB/s升到450GB/s,升12.5%。

机架级等比例缩水:

◎NVL72的显存总带宽从1580TB/s降到1400TB/s,

◎NVLink从260TB/s降到216TB/s,

◎对外网络从28.8TB/s升到32.4TB/s,20.7TB显存容量保持不变。

八卡HGX NVL8差异最大:

◎显存从2.3TB砍到2.0TB,8组HBM4只用7组,单卡只剩约250GB、带宽约16.8TB/s;

◎显存总带宽从176TB/s掉到130TB/s,降幅26%,比NVL72的11%下降多得多;

◎NVLink从28.8TB/s降到24TB/s。

x86版、Vera版和基于NVL8的DGX全部适用。

Part 2

带宽为什么先变化

HBM4把单堆栈接口从1024位翻倍到2048位,JEDEC基准速率是8Gbps/引脚。

◎英伟达原定10.75Gbps远超标准,降到9.375Gbps仍在基准之上;

◎对手AMD的MI455X只跑7.6Gbps。

英伟达没有解释下调原因,似乎是把激进目标往回收,高带宽路线没有变,行业推测指向内存控制器速度、堆栈速度或良率,或三者叠加。

对外网络为何反向加宽?

模型训练跨成千上万颗GPU,推理把预填充、解码和缓存分散部署,跨机架通信越来越重。

显存、互连、网络三层的瓶颈会随部署规模互相转移,这次调整是一次系统级重新配比,对重度跨机架通信的大规模部署,这反而有利。article_adlist[

小结 ]article_adlistarticle_adlist[

英伟达对产品的规格调整果然是动态的。 ]article_adlist

特别声明:以上内容仅代表作者本人的观点或立场,不代表新浪财经头条的观点或立场。如因作品内容、版权或其他问题需要与新浪财经头条联系的,请于上述内容发布后的30天内进行。 news_keyword_pub,stock, 正文下iframe 正文下iframe 总声明 总声明 文末二维码 start 文末二维码 start

文末二维码 start 文末二维码 start 编辑姓名及工作代码 编辑姓名及工作代码

来源

新浪科技