伯恩斯坦、高盛：高頻寬快閃記憶體或破解AI記憶體瓶頸
nashnova research
伯恩斯坦與高盛聯合報告指出，AI從訓練轉向推理後，記憶體帶寬已取代算力成為核心瓶頸，高帶寬閃存（HBF）有望以接近HBM的速度、數倍於HBM的容量填補這一斷層，但能否落地取決於英偉達是否開放接口。
AI推理為何會撞上「記憶體牆」？
訓練階段比的是算力，推理階段比的卻是記憶體帶寬——每生成一個Token，處理器幾乎要把全部模型參數讀一遍，計算量反而不大。
這意味著→ GPU算力再強，數據餵不進去就是空轉；記憶體讀取速度才是真正的天花板。
數字對比很直觀：前沿模型訓練算力自2020年起年增約5倍，而GPU記憶體帶寬自2008年起年均增速僅約28%。兩條曲線的剪刀差愈來愈大。
混合專家架構（MoE，把大模型拆成多個「專家」模組、每次只激活一部分）令問題更尖銳：Kimi K3總參數2.8萬億，每次推理只激活約500億，但全量參數仍須常駐記憶體。
HBF到底是甚麼？填的是哪段空白？
當前記憶體有兩個極端：HBM（高帶寬記憶體）速度快但貴，約每GB 20美元；企業級固態硬碟便宜，約每GB 0.30美元，但速度遠遠跟不上GPU的需求。
簡單來說＝ 一個太貴裝不多，一個太慢餵不飽，中間缺一層「又快又大」的存儲。HBF就是為這個斷層設計的。
閃迪（Sandisk）的方案：把NAND閃存晶片像HBM一樣堆疊在邏輯基底晶片上，用硅通孔（TSV，在晶片上打垂直通道讓上下層直接通信）互聯，緊貼處理器部署。目標是讀取帶寬接近HBM、容量達HBM的8至16倍，模組成本與HBM相當。
SK海力士今年2月亦在IEEE發表代號「H3」的類似分層架構論文，思路與閃迪方向一致。
性能提升有多大？數據可信嗎？
閃迪對960GB的Qwen3-480B模型做了內部仿真：1張配備HBF的GPU可承載原本至少需要8張HBM GPU才能裝下的模型。
4張HBF GPU的Token吞吐量等同於8張HBM GPU，對應資本開支效率提升8倍、GPU效率提升2倍。
這意味著→ 如果數據成立，同樣的推理任務，企業花的錢和佔的機櫃都可以大幅縮減。
但報告明確註明：上述數據為閃迪內部仿真結果，尚未經第三方驗證。 投資者需留意數據來源的局限性。
對NAND產業意味著甚麼？
HBF每片晶圓產出的存儲容量僅為普通閃存的約六分之一——同等產能下，晶圓消耗量大幅上升。
這意味著→ 如果HBF放量，NAND晶圓的需求會被結構性拉高，這對上游晶圓產能是利好信號。
同時HBF可能以類似HBM的價格出售，顯著提升NAND的單位價值。簡單來說＝ 同樣一片晶圓，做HBF比做普通閃存值錢得多。
伯恩斯坦認為，HBF有潛力複製HBM對DRAM產業的結構性重塑效應——令整個NAND行業從「賣容量」轉向「賣性能」。
最大風險是甚麼？「黃仁勳問題」怎麼理解？
伯恩斯坦直接點名最大變量：英偉達是否願意在GPU平台上支持HBF接口，目前沒有任何公開表態。
報告把這個變量稱為「Jensen問題」。這反映出一個現實：英偉達在AI加速器領域的生態主導地位，使得任何新型記憶體方案都必須先過它這一關。
說白了＝ HBF技術路線再好，如果英偉達的GPU不開放對應接口，下游客戶就沒法用，市場空間會大幅受限。
這是當前HBF投資邏輯中最核心的待驗證節點——在英偉達表態之前，所有性能測算都只是「如果」。
市场有风险，内容仅供研究参考，不构成投资建议。