SK海力士發布MARS與HBF：AI推理提速最高5倍，容量達HBM的14倍
nashnova research
SK海力士在OCP全球峰會上發布MARS記憶體架構與HBF高頻寬快閃記憶體兩項新技術，分別瞄準AI推理速度與記憶體容量瓶頸——推理首次出字提速3–5倍，儲存容量擴至HBM的14倍，信號指向「記憶體而非算力」正成為AI基礎設施的下一個主戰場。
AI推理點解卡喺記憶體上？
現有數據中心架構以GPU為核心，記憶體被綁死喺單台伺服器上——一台機器的閒置記憶體無法共享畀其他節點。
要加記憶體，往往只能買成台新伺服器，這意味著→ 營運商被迫過度配置GPU，推高總擁有成本（TCO，即營運一套系統的全部花費）。
簡單來說＝ 記憶體唔夠用，解決辦法卻係多買顯示卡，錢花喺刀背上。
MARS點樣解決呢個問題？
MARS（Memory-Centric AI Rack-Scale System，以記憶體為中心的機架級AI系統）的核心思路係記憶體解聚——將記憶體從CPU/GPU伺服器中拆出嚟，組成一個共享的大記憶體池。
喺多輪AI智能體推理場景中，對話產生的KV緩存（模型記住上下文的臨時數據）會急劇膨脹；MARS將呢啲數據存入共享記憶體池，與重新計算方案相比，首次出字時間（TTFT）提升3–5倍，尾延遲亦大幅壓縮。
這意味著→ MARS並非要取代HBM（高頻寬記憶體），而係提升整體記憶體利用效率，減少對GPU記憶體擴容的依賴，從邊際上抑制HBM需求。
HBF係咩？同HBM有咩分別？
HBF（高頻寬快閃記憶體）的定位好直白：頻寬約為HBM的一半，但容量係HBM的14倍。
簡單來說＝ HBF用速度換空間——喺大模型推理需要裝落海量參數同上下文的場景裡，「裝得多」比「跑得快」更關鍵。
這反映出儲存架構正走向分層：HBM負責最快嗰層，HBF補上容量層，兩者搭配而非替代。
離商用仲有幾遠？
SK海力士已於2026年7月發布OCP HBF規範0.7版，預計2027年初推出1.0版，HBF Cube樣品計劃2028年初提供。
距離大規模商用仍有約兩年窗口期，但規範持續推進，這意味著→ 產業標準化進程正在加速，並非PPT階段。
三星、美光等競爭對手幾時跟進HBF生態，將係判斷呢條新賽道能否提前起跑的關鍵觀察點。
市场有风险，内容仅供研究参考，不构成投资建议。