伯恩斯坦、高盛:高带宽闪存或破解AI内存瓶颈

nashnova research
今天发布阅读约 4 分钟

伯恩斯坦与高盛联合报告指出,AI从训练转向推理后,内存带宽已取代算力成为核心瓶颈,高带宽闪存(HBF)有望以接近HBM的速度、数倍于HBM的容量填补这一断层,但能否落地取决于英伟达是否开放接口。

01

AI推理为什么会撞上"内存墙"?

训练阶段拼的是算力,推理阶段拼的却是内存带宽——每生成一个Token,处理器几乎要把全部模型参数读一遍,计算量反而不大。
这意味着→ GPU算力再强,数据喂不进去就是空转;内存读取速度才是真正的天花板。
数字对比很直观:前沿模型训练算力自2020年起年增约5倍,而GPU内存带宽自2008年起年均增速仅约28%。两条曲线的剪刀差越来越大。
混合专家架构(MoE,把大模型拆成多个"专家"模块、每次只激活一部分)让问题更尖锐:Kimi K3总参数2.8万亿,每次推理只激活约500亿,但全量参数仍须常驻内存。
02

HBF到底是什么?填的是哪段空白?

当前内存有两个极端:HBM(高带宽内存)速度快但贵,约每GB 20美元;企业级固态硬盘便宜,约每GB 0.30美元,但速度远远跟不上GPU的需求。
用大白话说= 一个太贵装不多,一个太慢喂不饱,中间缺一层"又快又大"的存储。HBF就是为这个断层设计的。
闪迪(Sandisk)的方案:把NAND闪存芯片像HBM一样堆叠在逻辑基底芯片上,用硅通孔(TSV,在芯片上打垂直通道让上下层直接通信)互联,紧贴处理器部署。目标是读取带宽接近HBM、容量达HBM的8至16倍,模块成本与HBM相当。
SK海力士今年2月也在IEEE发表了代号"H3"的类似分层架构论文,思路与闪迪方向一致。
03

性能提升有多大?数据可信吗?

闪迪对960GB的Qwen3-480B模型做了内部仿真:1张配备HBF的GPU可承载原本至少需要8张HBM GPU才能装下的模型。
4张HBF GPU的Token吞吐量等同于8张HBM GPU,对应资本开支效率提升8倍、GPU效率提升2倍。
这意味着→ 如果数据成立,同样的推理任务,企业花的钱和占的机柜都可以大幅缩减。
但报告明确注明:上述数据为闪迪内部仿真结果,尚未经第三方验证。 投资者需注意数据来源的局限性。
04

对NAND产业意味着什么?

HBF每片晶圆产出的存储容量仅为普通闪存的约六分之一——同等产能下,晶圆消耗量大幅上升。
这意味着→ 如果HBF放量,NAND晶圆的需求会被结构性拉高,这对上游晶圆产能是利好信号。
同时HBF可能以类似HBM的价格出售,显著提升NAND的单位价值。用大白话说= 同样一片晶圆,做HBF比做普通闪存值钱得多。
伯恩斯坦认为,HBF有潜力复制HBM对DRAM产业的结构性重塑效应——让整个NAND行业从"卖容量"转向"卖性能"。
05

最大风险是什么?"黄仁勋问题"怎么理解?

伯恩斯坦直接点名最大变量:英伟达是否愿意在GPU平台上支持HBF接口,目前没有任何公开表态。
报告把这个变量称为"Jensen问题"。这反映出一个现实:英伟达在AI加速器领域的生态主导地位,使得任何新型内存方案都必须先过它这一关。
用大白话说= HBF技术路线再好,如果英伟达的GPU不开放对应接口,下游客户就没法用,市场空间会大幅受限。
这是当前HBF投资逻辑中最核心的待验证节点——在英伟达表态之前,所有性能测算都只是"如果"。

市场有风险,内容仅供研究参考,不构成投资建议。

伯恩斯坦、高盛:高带宽闪存或破解AI内存瓶颈 · nashnova