SK海力士定製HBM推理性能最高提升5.15倍
nashnova research
SK海力士在SEMICON Taiwan上披露，其定制HBM架構可將大模型推理性能提升最高5.15倍——核心做法是將計算直接放進存儲晶片內部，減少數據來回搬運的開銷。
這個架構到底改了甚麼？
SK海力士將計算功能直接集成到HBM的基礎晶片（base die，整個晶片堆疊最底層的那塊晶片）中。
這意味著→ 數據不再需要從存儲晶片搬到處理器再搬回來，計算就在數據旁邊完成。
簡單來說＝ 以前是「把貨搬到工廠加工再搬回倉庫」，現在是「直接在倉庫裡裝了一條生產線」。
為甚麼推理場景特別需要這種改變？
萬億參數大語言模型和智能體AI（能自主規劃、連續執行多步任務的AI系統）運行時，數據搬運開銷已成為核心瓶頸。
這意味著→ 模型越大、推理鏈越長，傳統架構裡「數據跑來跑去」吃掉的時間和功耗佔比就越高。
5.15倍的提升幅度說明，在這類場景下，瓶頸不在算力本身，而在數據搬運效率。
離真正量產還有多遠？
SK海力士在SEMICON Taiwan上發布了上述信息，但具體技術細節和量產時間表尚未完整披露。
這反映出該架構目前仍處於早期展示階段，從演示到規模交付之間還有距離。
簡單來說＝ 方向已經亮出來了，但「甚麼時候能買到」這個問題還沒有答案——這也是判斷SK海力士定制HBM競爭力的關鍵節點。
市场有风险，内容仅供研究参考，不构成投资建议。