高通完成 HBC 堆叠内存初步验证,Dragonfly AI250 将于明年上半年送样
Qualcomm Validates HBC Stacked Memory Ahead of 2027 Dragonfly AI250 Sampling - ServeTheHome
高通宣布已完成 High Bandwidth Compute(HBC)堆叠内存架构的初步验证,该架构将多层 DRAM 堆叠在小计算裸片上,用于其 Dragonfly 数据中心 AI 加速器。测试使用 2 层 DRAM 的早期样品,量产产品为 4 层;高通称按带宽每瓦计能效超过 HBM4 规格的 5 倍,实测带宽为外部 LPDDR5X 的 18 倍,但未公布具体带宽数值。首款集成 HBC 的 Dragonfly AI250 将于明年上半年开始送样,高通还计划将该技术用于 Snapdragon 消费级产品。
推荐理由
AI 评分 62
高通公布 HBC 堆叠内存的初步验证结果,读者可据此了解其与 HBM4 在能效和带宽上的差异及量产节奏。
主题
正文 · AI 翻译
FacebookXPinterestLinkedinReddItEmailPrintCopy URL
高通 HBC 渲染图
高通今早宣布,已完成其高带宽计算(HBC)内存架构的初步验证,该架构将成为公司即将推出的 Dragonfly 数据中心 AI 加速器的核心组成部分。这种堆叠内存架构将由高通及其制造合作伙伴将多层 DRAM 堆叠在一颗小型计算裸片之上,从而让内存更靠近访问它的计算硬件,使高通能够获得硬件布局更紧密所带来的能效和成本效益。
该技术近期的验证使 HBC 向商用产品部署又迈进了一步,相关产品计划于明年开始送样。高通现已验证该技术可以正常工作,并且其能效和内存带宽接近预期,这使他们能够在明年推进量产,同时让客户(和投资者)持续了解高通 Dragonfly AI250 加速器及其后续产品的开发进展。
HBC 最早由高通在其 2026 年投资者日上公布,是一项由高通主导的新技术,旨在利用近存计算在内存容量、内存性能和生产成本之间实现新的平衡——高通希望在这三个方面都实现突破。
从根本上说,该技术是 HBM 及其他内存堆叠技术的进一步变体。但与 HBM 将多颗 DRAM 裸片堆叠在基础裸片之上、再通过超宽内存总线连接回主处理器不同,HBC 旨在省去这一中间环节,改为在堆叠底部放置一颗小型计算裸片。
高通 HBC 加速器示意图(实心)
原则上,将内存放置在计算裸片之上有多项好处。其中最大的是能效,因为数据传输需要消耗能量——而远距离传输大量数据消耗的能量更多。通过将内存放置在计算裸片之上,就连 HBM 连接相对较短的距离也被消除(更不用说 LPDDR5X 等外部内存),从而将数据传输所消耗的能量降至最低。这些节省下来的能量反过来又可以用于提升芯片本身的性能,或允许在相同能耗预算内将更多芯片集群在一起。
计算裸片本身并不是完整的处理器。但通过将最消耗内存带宽的操作放在该裸片上,再将结果送回处理器中央更大的计算裸片,高通希望让其内存与计算硬件尽可能靠近。
高通在这方面的努力也着眼于生产成本。由于 HBM 使用宽内存总线,需要 CoWoS 或 EMIB 等先进封装来将 HBM 堆栈连接到计算裸片和内存控制器。但通过将大部分计算工作负载转移到位于内存下方的计算裸片,将计算裸片连接到芯片封装其他位置更大处理器裸片所需的内存带宽就少得多。因此,这一连接可以使用传统 2D 有机基板等更便宜的技术来实现。
高通 HBC 与 HBM 详细对比
尽管如此,HBC 并未消除所有复杂性。与 HBM 一样,它仍然需要使用 TSV 将多颗 DRAM 裸片(在高通的方案中为晶圆)键合到另一颗裸片之上,这本身就是一个具有挑战性的工艺。这意味着对复杂制造技术的需求并未消失,但已从内存堆叠和裸片间互连两方面减少到仅剩内存堆叠。
最后,高通希望在此实现内存带宽与内存容量之间更好的平衡。值得注意的是,该公司的 HBC 设计采用 LPDDR5X DRAM 裸片,而非 HBM 所使用的薄型高性能裸片。该公司尚未说明该技术的最终性能,但 HBC 堆栈的容量预计已经超过当前 HBM4 实现所能达到的水平。
高通 HBC 与 HBM 与 SRAM 对比
高通贯穿始终的基本论点是,HBC 提供了比任何其他内存架构都更全面的解决方案,无论是 HBM、片上 SRAM 还是封装外 LPDDR。按照其设想,HBC 相对于所有这些技术各有优劣,但正如高通所主张的,它们可以实现远超外部 LPDDR——并接近 HBM——的内存带宽(以及由此带来的性能),同时没有使用片上 SRAM 的容量限制,也没有后两者中成本高昂的问题。
归根结底,这一切都是为了帮助高通打造一款更好的 AI 推理芯片,以比现有技术更少的缺点满足推理对内存带宽和容量的需求。它
深入验证过程本身,在初步 HBC 验证中,高通在其圣迭戈实验室将一套早期 HBC 样品堆栈连接到测试单元。
高通 HBC ATE 测试台
虽然测试装置本身并不起眼,但其内部有一颗对高通数据中心计划至关重要的芯片。
鉴于这是早期样品,需要指出的是,他们在此使用的 HBC 堆栈只有 2 层 DRAM 裸片。量产产品将有 4 层。因此,高通尚未达到测试全尺寸堆栈的阶段。
高通简要介绍了其验证方法:他们使用自动化测试机对 HBC 测试堆栈进行测试,分别将其作为 LPDDR5X 器件和 HBC 器件进行测量。
高通 HBC 验证结果
最终,高通在其成功的验证测试中得出了三项主要发现。首先当然是该方案确实可行,证明这项技术能够实现。在性能方面,高通测得按其自身规格,其 HBC 解决方案的能效(按每瓦带宽计算)超过 HBM4 的五倍。最后,虽然该公司未披露具体带宽数值,但他们将实测带宽归类为外部 LPDDR5X 的 18 倍。
尤其是能效数据略低于高通对该技术的初始预期,他们原本希望比 HBM4 高出 6 倍。但如果这一优势能延续到完整产品,仍代表着能效的显著提升。
据高通称,其验证测试还包括产品的热行为,不过该公司未就此提供更多细节。高通迄今对此话题鲜有表态,但散热考量是他们需要克服的主要技术障碍之一,因为在堆叠内存架构中,作为基础裸片的更活跃的计算裸片预计会产生更多热量。
结语
随着初步 HBC 验证完成,高通现在正着眼于通过其 Dragonfly AI250 加速器推进该技术的商业化下一步。作为今年即将推出的 Dragonfly AI200 加速器的后继产品,AI250 将是首款集成 HBC 的产品——此后它将成为高通未来 AI 加速器的关键组成部分。AI250 尚无发布日期,但据高通称,它将于今年上半年开始送样,这可能是该公司计划的一次提前,此前最初宣布的送样时间为今年早些时候。
如果 HBC 一切顺利,该技术也不会仅限于 Dragonfly AI 加速器。高通此前已宣布,他们还将把该技术引入其面向消费者的 Snapdragon 产品——不过该公司当时未具体说明时间和产品。
高通 HBC 总结
归根结底,HBC 是高通在能效和更低总拥有成本(TCO)方面的一步棋。如果该技术成功,该公司期望能够交付比当代设计更节能、制造成本更低的 AI 推理加速器。这反过来又会使其在大型 AI 推理运营中比 GPU 运营成本更低(理想情况下,采购成本也更低)。随着高通在明年上半年推进 Dragonfly AI250 送样,我们将在未来几个月看到这一局面如何发展。
相关文章更多来自作者
/.td-container