IBM與Together AI簽2.4億美元協議，在IBM雲上建輝達AI推理集群
Nashnova编辑部
IBM與Together AI簽下2.4億美元多年期協議，將在IBM雲上以英偉達最新Blackwell晶片搭建專供開源模型的AI推理集群——這是開源推理賽道迄今最大的單筆商業訂單之一，意味著雲端服務商正將真金白銀押注在「開源＋推理」這條路上。
這筆交易到底買了甚麼？
IBM和Together AI將聯手建設大規模AI推理集群（專門用來「跑」已訓練好的AI模型、生成回答的算力設施），部署在IBM雲上。
硬件核心是英偉達HGX B300系統，搭載最新一代Blackwell處理器，配套Spectrum-X以太網絡設備。這意味著→ 集群從晶片到網絡全部選用英偉達最頂級的推理方案。
簡單來說＝ IBM出場地和雲端平台，Together AI出技術和客戶，英偉達出最新硬件——三方各拿自己最強的一塊拼在一起。
Together AI是誰？為何是它？
Together AI總部在三藩市，核心業務是讓企業以低於閉源系統的成本，在DeepSeek、MiniMax、Kimi等開源模型上運行AI工作負載。
今年7月最新一輪融資後，估值已達83億美元。這反映出 資本市場對「開源推理平台」這個定位的認可度正在快速攀升。
簡單來說＝ 它做的事相當於「開源AI模型的雲端代運營」——企業毋須自己買卡、自己部署，付費即可使用。
為何推理突然成了最大的算力缺口？
推理（inference）是AI產業鏈中「用模型」的環節——模型訓練完成後，每一次回答問題、生成圖片都要消耗推理算力。這意味著→ 用戶愈多、調用愈頻繁，推理算力需求便呈倍數增長。
雲端服務商和晶片廠商已為此投入數十億美元擴建基礎設施。英偉達亦明確表示，Blackwell晶片正是針對推理場景做的專項優化。
簡單來說＝ 訓練是「教會模型」，推理是「讓模型幹活」——如今模型已夠多，瓶頸轉移到了「幹活」這一步。
閉源模型出了甚麼問題，令開源成為替代選項？
Anthropic、OpenAI及Meta等閉源模型近期相繼發生網絡安全事件，企業對數據安全和供應商鎖定的憂慮加劇。
這反映出 一個結構性趨勢：當閉源方案的安全信任被打破，企業會主動尋找可審計、可自主部署的開源替代路徑。
這意味著→ Together AI所處的開源推理賽道，正好承接了這波從閉源流出的企業需求。
這筆訂單真能成為開源推理的里程碑嗎？
2.4億美元是開源推理領域迄今最大規模的商業合同之一，但合同屬多年期——最終價值取決於Together AI在合同期內的實際算力利用率。
簡單來說＝ 錢是簽了，但能否花完、花得值，要看Together AI能拉來多少企業客戶持續「跑模型」。
這反映出 開源推理賽道正從「技術可行」走向「規模化商業驗證」——這筆訂單是入場券，不是終點線。
Content is for reference only, not financial advice.