三星Hot Chips 2026展示LPDDR5X-PIM，AI推理速度提升2.28倍
Nashnova编辑部
三星在Hot Chips 2026上展示LPDDR5X存內計算晶片，Llama 3.1 8B推理吞吐量提升至3.01倍——這意味著邊緣AI裝置有望繞開昂貴的HBM，用更平的記憶體做更多嘢。
推理速度快咗兩倍幾——快喺邊？
在三星自家邊緣AI晶片上跑Llama 3.1 8B模型，換上LPDDR5X-PIM後，運行時間從12.3秒降至5.4秒，快咗約2.28倍。
推理吞吐量從每秒27.0個token躍升至81.3個token，約為原來的3.01倍。
這意味著→ 同一塊邊緣晶片，唔使換處理器、淨係換記憶體方案，AI回應速度就能翻兩到三倍。
簡單來說＝ 以前大模型喺手機或邊緣盒子上「諗一句嘢」要半秒，而家唔使零點二秒。
「存內計算」到底做緊乜？
PIM（存內計算）嘅核心思路：將一部分計算直接搬入記憶體晶片內部完成，數據唔使來回搬運。
LPDDR5X-PIM內部頻寬達到614 GB/s，而傳統DRAM對外頻寬僅76.8 GB/s，內部通道快咗約八倍。
這意味著→ 樽頸從「算力唔夠」變成「數據搬運太慢」；PIM直接喺數據存放嘅地方計算，省咗搬運呢一步。
可以直接插落現有系統度用？
三星保留咗JEDEC標準嘅561球封裝，物理接口同現有LPDDR5X一致。
透過「地址對齊模式」將DRAM地址映射為PIM指令，現有記憶體控制器基本唔使改。
簡單來說＝ 對裝置廠商嚟講，唔係「推倒重來」，而係「換一粒料就用得」——呢個正正係過去好多新型記憶體架構推唔郁嘅原因。
三星已開放模擬器、數據手冊同SDK，廠商可按需申請試用。
點解而家推呢個？HBM太貴
三星援引數據：HBM喺AI晶片組件支出中嘅佔比從2024年Q1嘅52%攀升至2025年Q4嘅63%，記憶體成本越嚟越重。
美光喺同場大會上指出，HBM所需晶圓面積約為DDR5嘅三倍，而且「肯定唔會縮小」。
這意味著→ 如果所有AI推理都用HBM，硬件賬單會越嚟越難睇；LPDDR5X-PIM瞄準嘅就係「唔需要HBM咁大頻寬、但又想跑得更快」嘅推理場景。
佢可以取代HBM？
唔得。LPDDR5X-PIM嘅外部頻寬遠低於HBM，高吞吐量訓練場景仍須依賴HBM。
三星嘅定位好精準：針對推理負載，喺記憶體內部完成部分計算，減少數據跨接口傳輸，用更低成本換更高有效吞吐。
這反映出記憶體行業嘅一個趨勢——唔再追求單一指標（頻寬最大化），而係按場景分層：訓練用HBM，推理用PIM。
數據可唔可信？下一步睇乜？
今次性能數據為三星內部測量，並非獨立基準測試；而且兩種方案生成嘅輸出存在差異，精度優化仍在進行。
下一代LPDDR6-PIM已列入計劃，正推進JEDEC標準化。
簡單來說＝ 數字靚，但未經第三方驗證；量產後能唔能同時守住速度同精度，先至係真正嘅考試。
市场有风险，内容仅供研究参考，不构成投资建议。