前言:同一栋楼里的不同楼层

第一讲我们就埋了个问题:HBM 和 HBF,名字只差一个字母,到底是什么关系?是新旧替代,还是同行冤家?

先把结论放在最前面:它们是同一栋楼里的不同楼层

HBM 在顶楼——离计算芯片最近、最快、也最贵;HBF 在中间楼层——容量大一个量级、预计便宜一个量级。住户(数据)按需上下楼,楼里缺了哪层都不好住。

这一讲,我们把这两层彻底对比清楚:技术参数、工作负载、背后的阵营,一个都不放过。

一、内存墙:一切的起点

要理解为什么需要”两层楼”,得先认识一堵看不见的墙:内存墙(Memory Wall)

过去几十年,处理器算力基本一路狂奔,而内存带宽的增长慢得多。两条增长曲线像一把不断张开的剪刀

  • 算力每代翻倍再翻倍;
  • 带宽每代只挪一小步。

剪刀张到今天,算力大量时间在等数据——这堵墙就是这么砌起来的。而 AI 大模型的出现,把剪刀口撕得更大:上千亿参数要在毫秒间搬来搬去,带宽成了木桶最短的那块板。

一个直观的画面:超级引擎(算力)配了条乡间小道(带宽),油门踩到底,车也快不起来。业界管这叫”算力饥饿”——芯片大部分时间不是在算,而是在等。

行业对这堵墙有三种拆法:

  1. 把内存拉近:从主板的内存条,搬进芯片封装——这是 HBM 的路;
  2. 把路修宽:用位宽极大的接口规范——这是 UCIe 的路;
  3. 把仓库垫高:用大容量介质补出一层”快仓库”——这是 HBF 的路。

三条路并不冲突,反而正好拼成一套组合拳。

二、全面对比:一张大表

先上图,再上表。

HBM vs HBF 六个关键维度:速度与容量各有胜场
维度 HBM HBF
本质 DRAM(易失) NAND Flash(非易失)
断电后 数据立刻丢失 数据保留
单堆栈容量 HBM4 约 48 GB(16 层) 最高约 512 GB(16 层 NAND)
带宽 HBM4 约 2 TB/s(2048 位接口) 约 0.4 ~ 3 TB/s(Grade 1~3 三档)
延迟 纳秒级 微秒级,约高两个数量级
写入特性 随机读写随意 写入慢、有 P/E 寿命,适合读多写少
接口 JEDEC 专用接口 UCIe(开放标准)
标准组织 JEDEC OCP(开放计算项目)
预计成本 预计便宜约一个量级(未量产,待验证)

几个容易被忽略的读表要点:

  • 带宽数字接近,延迟天差地别。HBF 最高档带宽约 3 TB/s,与 HBM4 同一量级;但 NAND 的读延迟是微秒级,比 DRAM 高约两个数量级。带宽是”吞吐量”,延迟是”反应速度”——看存储不能只看前者。
  • 易失性反成组合优势。HBF 断电不丢:模型权重放进去,重启即用,省掉动辄数分钟的加载;HBM 则每次上电都要重新灌数据。
  • 写入寿命既是护城河也是软肋。读多写少的负载(推理)无惧 P/E 寿命;写密集的负载(训练)就要命——这直接决定了下一节的天平。

延伸一问:为什么不把 HBM 直接做到 512 GB?

这是最自然的追问,答案也最朴素:能,但贵到离谱

  • 层数往上堆,TSV 打孔的良率损耗层层放大,成本曲线陡峭上升;
  • HBM 的价值在”快”,把容量也扛上,等于让最贵的介质去干最便宜的活;
  • 容量需求爆炸的,是推理的权重与 KV Cache——恰好都是”读多写少”的数据,并不需要纳秒级延迟伺候。

与其把顶楼加盖成摩天大楼,不如在中间加盖一层性价比合理的楼层——这就是 HBF 的全部商业逻辑。

三、工作负载:谁跟谁对味

技术上都能跑,经济上才见分晓。两类负载的脾气完全不同:

  • 训练:每一个训练步都要更新参数——梯度高频随机读写,写入量以 TB 计。NAND 的写延迟和 P/E 寿命在这种负载下就是灾难。训练必须 HBM。
  • 推理:权重加载后基本只读,KV Cache 也是读多写少。NAND 的短板几乎踩不到,长处(容量、成本、非易失)全用上。推理对味 HBF。

再往细处看一眼两类负载的”读写账本”:

  • 训练里,参数每个训练步都要被更新一遍,梯度写入贯穿始终,写入带宽直接卡住训练速度;
  • 推理里,权重从加载到换版之间几乎不变,KV Cache 虽有写入,但以追加为主、量级有限。

写入特征,就是这道选择题的题眼。

负载特性匹配:训练的高频随机写只能交给 HBM,推理的读多写少正好喂给 HBF

一句话总结:训练是”又读又写、写个不停”,推理是”读个不停、偶尔写写”——前者必须易失性的 DRAM 伺候,后者正对 NAND 的胃口。

四、阵营:两套牌桌,各有各的玩家

技术之外,更耐看的是牌桌。

HBM 阵营:标准握在 JEDEC 手里(HBM4 于 2025 年定标:2048 位接口、约 2 TB/s、16 层 48 GB);供货的是三大 DRAM 原厂——SK 海力士、三星、美光;买家是 NVIDIA、AMD 这些 GPU 大厂。从标准到制造到需求,一条完整闭环,而且已经跑了近十年,利润池深不见底。

HBF 阵营:标准走 OCP(开放计算项目) 开放规范,由 SK 海力士与**闪迪(SanDisk)**于 2026 年 8 月的 FMS 上联合发起;Google、Tenstorrent 已加入。截至 2026 年 8 月:NVIDIA、AMD 尚未表态;三星、美光、铠侠也未加入。

两大阵营关系图:JEDEC 体系 vs OCP 体系,SK 海力士两头下注

三个耐人寻味的观察:

  • SK 海力士两头下注。它在 DRAM 和 NAND 都是头部玩家——HBM 是它领跑,HBF 它又当发起人。无论哪层楼走红,它都在牌桌上。这才是存储大厂的生存智慧:不赌方向,赌”我都在”。
  • 闪迪是 NAND 阵营的反攻。过去十年,高带宽存储的利润池一直被 DRAM 阵营吸走;现在 NAND 阵营第一次把自家介质送进了计算芯片的封装里。
  • Google 的身份最有意思。它既是全球最大的 AI 算力买家之一,又自研 TPU。买家亲自下场押注 HBF,潜台词相当直白——“现有方案,我们买得不太痛快。”

牌桌上还有一股隐形力量:云厂商。OCP 本就是由互联网大厂牵头的开放硬件社区,HBF 走 OCP 路线,等于绕开传统标准组织的漫长流程,直接在”大买家俱乐部”里拿订单——对新标准而言,这是被采纳的最快路径。

五、未来:混搭与悬念

往后看一步,最可能的形态不是二选一,而是同一封装里的混搭

  • HBM 做热层:放工作集、激活参数、高频更新的数据;
  • HBF 做温层:放完整权重、KV Cache。

两层层间距以毫米计,比今天”GPU + 主板上 CXL 内存池”的方案近了整整一个量级——带宽、延迟、容量各取所需,内存墙从两边一起拆。

而 HBF 能不能成事,悬念集中在两件事:

  1. 量产价格:那个”预计便宜一个量级”的账,要等真芯片、真价格来兑现;
  2. 生态:NVIDIA / AMD 是否跟进是关键——它们不点头,HBF 就只能先在 TPU 阵营和推理专用芯片里打转;它们点头,整个 GPU 生态的分层内存故事才算闭环。

短期内最可能看到的落地形态,按激进程度排:

  • 推理专用芯片:本来就为”读多写少”设计,HBF 最先在这里站稳脚跟;
  • 自研加速器阵营:Google 已入局,TPU 用 HBF 做温层、HBM 做热层;
  • 通用 GPU:最后一块拼图,NVIDIA / AMD 点头才算真正进入主流。

总结:不是替代,是分层

回到开头的问题:HBM 和 HBF 什么关系?

  • 不是替代:HBF 的延迟和写入特性,决定了它干不了 HBM 的活;
  • 而是分层:HBM 管快,HBF 管大又够快,SSD 管便宜——一层管一段,各司其职。

拆内存墙,靠的从来不是一根钢筋,而是整面墙的脚手架。

下一篇《存储接口概览》,我们把这一系列里散落各处的名词——UCIe、JEDEC 专用接口、DDR、PCIe、CXL、ONFI、Toggle——一次收拢成一张地图。带宽的尽头,是接口。