HBF容量远超HBM但无法全面替代,成本优势与访问局限并存

Nashnova编辑部
Published todayAbout 4 min read

闪迪推出的高带宽闪存(HBF)以8–16倍容量密度碾压HBM,单位成本最高便宜16倍,但NAND介质的延迟和写入短板决定了它只能补位、不能取代。

01

HBF到底是什么东西,跟HBM差在哪?

HBM基于DRAM(一种靠电容存数据的快速内存),每次读写可以精准到很小的地址,延迟极低——GPU算力的"贴身弹药库"。
HBF基于NAND(手机和固态硬盘里的闪存芯片),3D阵列把大量存储单元垂直堆起来,再通过CBA逻辑底座(直接键合在芯片底部的控制电路)封成一个堆栈,容量巨大但每次读写必须"整页搬运"。
这意味着→ 两者的核心差异不在封装技术,而在底层介质:DRAM天生快、小粒度;NAND天生大、便宜,但慢、写入次数有限。封装能把NAND的聚合带宽推到1.6TB/s,却改不了单次访问更慢、写入寿命更短这两条物理限制。
02

512GB装进一个堆栈——容量优势从哪来?

HBF的容量来自两层"多层"叠加:NAND裸片内部已经是垂直多层阵列,HBF再把16颗这种高密度裸片摞成一个堆栈,第一代原始容量达512GB
用大白话说= 相当于每颗芯片自己已经是一栋高楼,HBF再把16栋楼装进同一块地基。HBM的"多层"只是增加楼的数量,但每栋楼本身矮得多。
这意味着→ 要用HBM凑到同样的512GB,32GB版需要16个堆栈、48GB版需要约11个、64GB版也要8个——HBF真正的空间价值是让原本因插槽限制放不下的模型权重靠近GPU。
NAND还自带非易失性(断电不丢数据)和无需周期刷新,但闪迪未公开完整的读写功耗曲线,逻辑底座和接口仍有持续功耗。
03

"便宜8–16倍"这个数字靠谱吗?

成本要拆三层看:第一层是bit成本(每GB硅面积),NAND凭垂直阵列确实远低于DRAM——这是HBF最坚实的成本来源。
第二层是器件成本,要叠加CBA底座、键合、UCIe接口、封装测试、ECC冗余和废品摊销;第三层是系统成本,客户可能还需HBM做热缓存、更复杂的调度软件,以及预取失误带来的GPU空等和额外能耗。
用大白话说= NAND的"原料"确实便宜,但做成成品再塞进系统后,省多少还要看封装溢价和软件调度能不能跟上。闪迪给出的8–16倍是理论框架下的推演——目前没有量产报价、完整物料清单和独立良率数据
04

"性能只差2.2%"能信吗?

这个数字来自闪迪内部模拟:Llama 3.1、4050亿参数、8-bit权重、单kernel执行——是一个非常具体的场景,不能外推到所有模型和所有访问模式。
闪迪自己的事实说明书脚注明确承认HBF相对HBM延迟更高、页尺寸更大。
这反映出 HBF的甜区是大模型推理中以读为主、顺序性强的权重加载场景;一旦涉及频繁随机写入或细粒度访问,NAND的短板会被放大。
05

还有哪些关键信息闪迪没说?

闪迪未披露第一代HBF采用SLC、MLC还是TLC工作模式(每单元存的bit数越多,密度越高,但纠错压力和编程时间也越大)。
512GB是原始容量,扣除坏块管理、磨损均衡和系统保留后,实际暴露给加速器的可用容量尚未公开
这意味着→ 在量产数据出来之前,HBF的容量和成本优势仍停留在"厂商框架下的理论推演"阶段。能否形成规模化替代,最终取决于系统级软件调度能否有效隐藏NAND延迟——这要等首批客户部署数据才能验证。

Content is for reference only, not financial advice.

HBF容量远超HBM但无法全面替代,成本优势与访问局限并存 · nashnova