技术文章-YD
行业前沿 > 内存控制器搬进 HBM 堆栈,英伟达 NVHBM 在打什么算盘?

内存控制器搬进 HBM 堆栈,英伟达 NVHBM 在打什么算盘?

发布时间:2026-09-16 17:28:33

NVHBM 是英伟达于 2026 年 8 月发布的定制化高带宽内存技术,隶属于 NVLink Fusion 技术体系。

8月,英伟达发布了一项名为 NVHBM 的定制高带宽内存技术,归入 NVLink Fusion 技术体系。与传统 HBM 相比,它最本质的变化是把内存控制器从 XPU 计算芯片一侧,整体迁进了 HBM 堆栈底部的基座裸片(Base Die)里。内存带宽不够用、算力芯片面积不够摆,这两件让 AI 硬件头疼多年的事,英伟达想用这一招一起解。

 

15-1.png

 

 

控制器搬家,HBM 从“听指挥”变成“自己指挥”

 

在标准 HBM 的架构里,内存控制器和物理接口 PHY 都长在 XPU 计算芯片上,HBM 堆栈里的 Base Die 只干一件事——物理层的信号转换,两边靠一条又宽又并行的总线连接。这套方案成熟、通用,代价是控制器离存储颗粒远,信号路径长,时序控制也费劲;PHY 电路还占着计算芯片上宝贵的面积。

 

NVHBM 把英伟达自研的内存控制器和 PHY 电路一并下沉到 Base Die 里,原本只管物理层转换的基座,升级成带完整控制逻辑的“智能内存基座”,连接方式也从宽并行总线换成了窄带串行 Die-to-Die 链路。用大白话说,以前是芯片在外面遥控指挥内存,现在是内存堆栈自己带着指挥系统上班。

 

15-2.png 

 

存储介质本身没什么花样:依然是 DRAM 颗粒,靠 TSV 硅通孔做 3D 垂直堆叠,属于断电数据不保留的易失性内存,底层堆叠工艺和标准 HBM 兼容,颗粒仍由三星、SK 海力士这类主流存储厂商供货。

 

算一笔账:带宽、功耗、面积都省在哪儿

 

拿 NVHBM 和标准 HBM4E 对比,提升是能算出来的。

 

带宽上,控制器贴近存储层,信号路径明显缩短,时序控制更精细,单栈内存带宽最高能提升 30%,理论单栈带宽到 5.2TB/s。

 

功耗上,短距通信减少传输损耗,集成度提升压掉接口冗余功耗,HBM 整体功耗最高降 15%,顺带给计算芯片腾出更多散热余量。

 

面积上是省得最明显的。XPU 上的 PHY 和配套电路面积最高缩减 67%,最多能释放 25% 的计算裸片面积给算力单元;中介层布线也简单了,整体封装布局最多释放 80% 的可用硅片空间,多组 HBM 堆叠的高密度集成更好摆。

 

系统层面再叠上 NVLink Fusion 体系,单 XPU 端到端整体性能提升 30%。放到数据中心,同等 1 吉瓦功耗预算下,能额外部署约 15000 颗 2000W 级的 XPU——机架级算力密度就是这么拉上去的。

 

 

谁先上车?亚马逊打头

 

生态上,NVHBM 是英伟达主导的定制化方案,眼下正在推动标准化实现规范,联合三星、SK 海力士等头部内存厂商做产品验证;同时作为 NVLink Fusion 半定制 AI 基建的核心组件,向超大规模云厂商和 AI 原生企业开放适配。

 

目前公开的第一个合作方是亚马逊旗下 Annapurna Labs,其下一代 Trainium4 芯片将接入 NVHBM 生态;AWS 还计划 2027 到 2028 年在全球基础设施里额外部署 200 万颗英伟达 GPU,覆盖 Blackwell Ultra、Rubin 及 Rubin Ultra 架构,同步验证 NVHBM 的落地。

 

要泼一盆冷水的是,NVHBM 并不是通用标准 HBM 的替代品,而是面向定制化算力场景的补充方案。已量产的 Vera Rubin 机架级系统并不搭载该技术,它瞄准的是下一代定制芯片设计。

 

 

前景和变量,都在哪儿

 

机会是明摆着的。万亿参数模型、长上下文 Agent 这些业务起来之后,内存带宽和算力密度成了 AI 基础设施最硬的瓶颈。NVHBM 用架构重构同时换来带宽升级、功耗下降和面积释放,正好卡在下一代 AI 算力的需求点上,高端训练集群、超大规模推理场景里落地价值明确。再加上数据中心功耗约束越来越严,功耗和密度优势对云厂商意味着更低的运营成本、更高的单位算力产出。

 

变量也不少。一是定制化属性强,只适配英伟达算力生态,没有 JEDEC 标准 HBM 的跨平台通用性,覆盖场景天然受限;二是架构重构对先进封装良率、TSV 工艺精度、Base Die 设计复杂度都提出更高要求,大规模量产的时间节点、成本控制仍悬着;三是通用 HBM 持续迭代、CXL 内存扩展等技术路线也在同步演进,会在不同场景分流需求。

 

产业链上,谁在跟着受益?

 

NVHBM 把控制器搬进 HBM,短期看是英伟达和存储厂商的事,往长了看,整个硬件链条都会被牵动。控制器下沉、信号链路重构,意味着中介层、载板乃至整机 PCB 的设计要求和复杂度都要上一个台阶——高速信号完整性、高密度互连、层数和材料等级,每一项都在考验板厂的功底。

 

这正是国内 PCB 厂商眼下最忙的业务方向。以深圳一博科技(301366)为例,这家 2003 年成立的公司靠高速 PCB 设计起家,如今拥有 900 余名设计工程师,把 PCB 设计、制板、SMT 贴片到元器件选型串成一站式服务,设计能力覆盖 112G/224G、DDR4/5、PCIe4.0/5.0/6.0 等高速场景,制板能做到 2 层到 132 层。今年以来 AI 算力需求爆发,高端 PCB 一度供不应求,公司部分工序已经满产,ATE 测试板等高阶产品占比也在往上走,数据中心服务器的相关业务被明确列为重点方向。对这类厂商来说,NVHBM 代表的“更高带宽、更低功耗、更高集成度”的演进方向,落到交付端就是一张张更高速、更高层、更难做的板子——谁先接得住,谁就多分一杯羹。

 

14-4.png

 

短期看,NVHBM 会率先落到头部云厂商的高端 AI 训练与推理集群里,成为英伟达下一代旗舰算力平台的标配内存方案。长期看,内存控制器向存储端下沉的设计思路,代表了高带宽内存“计算-存储协同设计”的演进方向;但它不会取代通用标准 HBM,两者分别面向定制化高端算力与通用算力场景,互补共存。对产业链上的玩家来说,这场技术变局真正的信号是:算力之争,正从芯片本身延伸到内存、封装和每一块承载它们的电路板上。

 

热门文章

PCB设计经验:到底DDR走线能不能参考电源层啊?
隔离地PCB过孔要放哪里,才能最有效减少PCB高速信号过孔串扰?
PCBA板中神秘消失的锣槽
EXCUSE ME,表层的AC耦合电容和PCB内层的高速线会有串扰?
PCB板双面布局的DDR表底走线居然不一样,这么低级的错误都没看出来?
PCB 背钻塞孔翻车记!绿油凸起竟让焊接 “手牵手” 短路
PCB加工中的“流胶”到底是怎么影响阻抗的?
PCB板ATE测试探针卡设计和生产的核心技术要求,你知道多少?
相同PCB单板,相同信号的AC电容,为啥反焊盘不同?
真不敢信,PCB板上就挪动了一个电阻,DDR3竟神奇变好了
PCB板上PIN DELAY单位错了,DDR4跑不起来,真的吗?
老实说:你们关心过表层绿油的厚度吗?
那个要“深紫色油墨”的客户,让我一宿没睡!
要是我再不说,估计就没人知道电路板“贾凡尼效应”了!
PCB别人包地你包地,但别人的隔离度比你好10dB不止
出货给客户一块残缺的PCB板,客户为什么还要给我们点赞
遇事不决,PCB电磁绝学
PCB棕化工艺不同,高速信号损耗差老远了!
高速PCB板GSSG结构走线串扰大? 悄悄“转”一下当场好一倍!
你的高速PCB主板80分,我的接口板80分,配合一起用才60分?
PCB设计制造“残铜率”知多少,怎么做好控制±5%的阻抗值
高速PCB如果链路中必须有一个阻抗不连续点,你会把它放在哪呢?