HBF容量遠超HBM但無法全面替代,成本優勢與存取局限並存

Nashnova编辑部
Published todayAbout 4 min read

閃迪推出的高帶寬閃存(HBF)以8–16倍容量密度碾壓HBM,單位成本最高便宜16倍,但NAND介質的延遲和寫入短板決定了它只能補位、不能取代。

01

HBF到底是甚麼,跟HBM差在哪?

HBM基於DRAM(一種靠電容存數據的快速記憶體),每次讀寫可以精準到很小的地址,延遲極低——GPU算力的「貼身彈藥庫」。
HBF基於NAND(手機和固態硬盤裡的閃存晶片),3D陣列把大量存儲單元垂直堆起來,再通過CBA邏輯底座(直接鍵合在晶片底部的控制電路)封成一個堆疊,容量巨大但每次讀寫必須「整頁搬運」。
這意味著→ 兩者的核心差異不在封裝技術,而在底層介質:DRAM天生快、小粒度;NAND天生大、便宜,但慢、寫入次數有限。封裝能把NAND的聚合帶寬推到1.6TB/s,卻改不了單次訪問更慢、寫入壽命更短這兩條物理限制。
02

512GB裝進一個堆疊——容量優勢從何而來?

HBF的容量來自兩層「多層」疊加:NAND裸片內部已經是垂直多層陣列,HBF再把16顆這種高密度裸片疊成一個堆疊,第一代原始容量達512GB
簡單來說= 相當於每顆晶片自己已經是一棟高樓,HBF再把16棟樓裝進同一塊地基。HBM的「多層」只是增加樓的數量,但每棟樓本身矮得多。
這意味著→ 要用HBM湊到同樣的512GB,32GB版需要16個堆疊、48GB版需要約11個、64GB版也要8個——HBF真正的空間價值是讓原本因插槽限制放不下的模型權重靠近GPU。
NAND還自帶非易失性(斷電不丟數據)和無需週期刷新,但閃迪未公開完整的讀寫功耗曲線,邏輯底座和接口仍有持續功耗。
03

「便宜8–16倍」這個數字靠譜嗎?

成本要拆三層看:第一層是bit成本(每GB矽面積),NAND憑垂直陣列確實遠低於DRAM——這是HBF最堅實的成本來源。
第二層是器件成本,要疊加CBA底座、鍵合、UCIe接口、封裝測試、ECC冗餘和廢品攤銷;第三層是系統成本,客戶可能還需HBM做熱緩存、更複雜的調度軟件,以及預取失誤帶來的GPU空等和額外能耗。
簡單來說= NAND的「原料」確實便宜,但做成成品再塞進系統後,省多少還要看封裝溢價和軟件調度能不能跟上。閃迪給出的8–16倍是理論框架下的推演——目前沒有量產報價、完整物料清單和獨立良率數據
04

「性能只差2.2%」能信嗎?

這個數字來自閃迪內部模擬:Llama 3.1、4050億參數、8-bit權重、單kernel執行——是一個非常具體的場景,不能外推到所有模型和所有訪問模式。
閃迪自己的事實說明書腳註明確承認HBF相對HBM延遲更高、頁尺寸更大。
這反映出 HBF的甜區是大模型推理中以讀為主、順序性強的權重加載場景;一旦涉及頻繁隨機寫入或細粒度訪問,NAND的短板會被放大。
05

還有哪些關鍵信息閃迪沒說?

閃迪未披露第一代HBF採用SLC、MLC還是TLC工作模式(每單元存的bit數越多,密度越高,但糾錯壓力和編程時間也越大)。
512GB是原始容量,扣除壞塊管理、磨損均衡和系統保留後,實際暴露給加速器的可用容量尚未公開
這意味著→ 在量產數據出來之前,HBF的容量和成本優勢仍停留在「廠商框架下的理論推演」階段。能否形成規模化替代,最終取決於系統級軟件調度能否有效隱藏NAND延遲——這要等首批客戶部署數據才能驗證。

Content is for reference only, not financial advice.

HBF容量遠超HBM但無法全面替代,成本優勢與存取局限並存 · nashnova