SK海力士發布記憶體中心化AI機架架構MARS
nashnova research
SK海力士在OCP全球峰會上發佈MARS架構，用CXL總線將DRAM從綁定單台伺服器的固定資源，重構為整個機架共享的內存池——直指當前AI基礎設施最大的瓶頸：內存不夠用，擴容又太貴。
現時的AI伺服器，內存到底卡在哪？
GPU上的高帶寬內存（HBM）受物理空間和成本限制，想加內存就得加整台伺服器，連帶買入一堆用不上的GPU。
這意味著→ 營運商為了多一點內存容量，被迫過度配置昂貴的GPU集群，錢花在了不需要的算力上。
多台伺服器之間通過RDMA網絡搬運KV緩存（大語言模型記住上下文的數據），還會產生重複拷貝和不可預測的延遲毛刺。
MARS架構做了甚麼不一樣的事？
核心思路：將內存的分配、擴展和回收，與CPU/GPU算力徹底解耦。
簡單來說＝ 以前內存像焊在每台機器上的固定水箱，現在變成一根公共水管——哪台GPU需要，直接從管子裡取水，不用每台都配一個大水箱。
多個GPU和NPU（神經網絡處理器）可以共享同一池子裡的模型權重和上下文緩存；流水線任務中，前一顆晶片的輸出直接寫入共享內存，後一顆直接讀取，省掉了跨網絡搬數據的步驟。
性能數據說了甚麼？
多輪智能體AI：KV緩存卸載到MARS共享池後，首token生成時間（TTFT）比重新計算方案快3.5–5.2倍，尾延遲毛刺基本消除。
語音智能體流水線（與AI合作夥伴Pickles聯合測試）：中間輸出走共享CXL內存而非RDMA網絡，首音頻生成時間從0.67秒降至0.46秒，端到端延遲從8.08秒降至5.73秒。
萬億級圖神經網絡訓練：圖採樣速度較RDMA方案提升17.57倍——共享池提供恆定延遲的直接訪問，消除了頻繁的RDMA同步等待。
軟件棧和合作網絡有多大？
SK海力士正與產業界、政府及學術機構聯合開發包含16個工具的MARS軟件棧，覆蓋內存分配器、節點間鎖機制、KV緩存分層、內存內存儲及Graph RAG引擎。
合作方包括洛斯阿拉莫斯國家實驗室、史丹福大學、卡內基梅隆大學、加州大學柏克萊分校等十餘家頂級機構。
這反映出 SK海力士不只是賣硬件，而是試圖用軟件生態將MARS變成行業標準——硬件好複製，生態不好複製。
HBF是甚麼？為何要多一個內存層級？
高帶寬閃存（HBF）是SK海力士提出的介於HBM與企業級SSD之間的新層級：帶寬約為HBM的一半，容量是HBM的10–14倍，每比特能效比傳統企業存儲高3.7倍。
簡單來說＝ HBM像一小碗很貴的快速內存，SSD像一大桶便宜但慢的存儲；HBF就是一個中號水桶——速度接近小碗，容量接近大桶。
在Llama 3 70B和DeepSeek R1 671B演示中，HBF支持每用戶最高1900萬token的上下文窗口。OCP HBF規範v0.7已發佈，1.0版計劃明年完成，硬件樣品預計2028年前後供貨。
投資者該怎麼看這件事？
MARS架構如果兌現，最直接的影響是：數據中心擴容內存不再需要同比例擴容GPU，這會改變AI基礎設施的採購邏輯和資本支出結構。
這意味著→ 內存廠商（SK海力士本身）在AI供應鏈中的話語權可能上升，而純賣GPU算力的邏輯會被稀釋。
關鍵驗證節點有兩個：MARS能否在實際數據中心部署中複現上述性能增益，以及HBF能否在2028年如期量產——在此之前，這仍是一份技術路線圖，不是已落地的商業現實。
市场有风险，内容仅供研究参考，不构成投资建议。