SK海力士发布MARS与HBF：AI推理提速最高5倍，容量达HBM的14倍
nashnova research
AI推理为什么卡在内存上？
现有数据中心架构以GPU为核心，内存被绑死在单台服务器上——一台机器的闲置内存无法共享给其他节点。
要加内存，往往只能买整台新服务器，这意味着→ 运营商被迫过度配置GPU，推高总拥有成本（TCO，即运营一套系统的全部花费）。
用大白话说＝ 内存不够用，解决办法却是多买显卡，钱花在了刀背上。
MARS怎么解决这个问题？
MARS（Memory-Centric AI Rack-Scale System，以内存为中心的机架级AI系统）的核心思路是内存解聚——把内存从CPU/GPU服务器里拆出来，组成一个共享的大内存池。
在多轮AI智能体推理场景中，对话产生的KV缓存（模型记住上下文的临时数据）会急剧膨胀；MARS把这些数据存进共享内存池，与重新计算方案相比，首次出字时间（TTFT）提升3–5倍，尾延迟也大幅压缩。
这意味着→ MARS不是要取代HBM（高带宽内存），而是提升整体内存利用效率，减少对GPU内存扩容的依赖，从边际上抑制HBM需求。
HBF是什么？跟HBM有什么不同？
HBF（高带宽闪存）的定位很直白：带宽约为HBM的一半，但容量是HBM的14倍。
用大白话说＝ HBF用速度换空间——在大模型推理需要装下海量参数和上下文的场景里，"装得多"比"跑得快"更关键。
这反映出存储架构正在走向分层：HBM负责最快的那一层，HBF补上容量层，两者搭配而非替代。
离商用还有多远？
SK海力士已于2026年7月发布OCP HBF规范0.7版，预计2027年初推出1.0版，HBF Cube样品计划2028年初提供。
距离大规模商用仍有约两年窗口期，但规范持续推进，这意味着→ 产业标准化进程正在加速，不是PPT阶段。
三星、美光等竞争对手何时跟进HBF生态，将是判断这条新赛道能否提前起跑的关键观察点。
市场有风险，内容仅供研究参考，不构成投资建议。