亞馬遜低成本AI晶片吸引企業客戶,價格較輝達H100低80%
N.R. Finch
亞馬遜自研AI晶片推理成本比輝達H100低約80%,正推動企業客戶從「只用輝達」轉向多供應商評估——但軟件生態與本地部署的成熟度仍是關鍵瓶頸。
平八成,究竟平在邊度?
據The Information報道,亞馬遜Inferentia2和第二代Trainium在推理工作負載(讓已訓練好的AI模型回答問題、生成內容的環節)上的使用成本,比輝達H100低約80%。
這意味著→ 同樣跑一個AI客服或風控模型,企業在亞馬遜晶片上的算力帳單可能只有輝達方案的五分之一。
簡單來說= 訓練AI像造車,推理像揸車——企業日常「揸車」的油錢,亞馬遜開出了兩折的價。
邊個已經喺度試?
愛爾蘭諮詢機構Co Driver Labs顧問Piatek透露,一間保險公司因監管要求必須在自有數據中心運行AI,此前用輝達晶片,現已對亞馬遜晶片完成初步測試並取得積極結果。
該公司隨後向AWS查詢能否透過Outposts(亞馬遜將雲端伺服器搬入客戶機房的產品)部署Inferentia,但亞馬遜回覆稱晶片尚未準備好在Outposts中測試。
Piatek稱:「即使成本係雲上嘅兩倍,佢哋都會繼續用AWS晶片留喺本地。」這反映出企業對本地部署的剛需,甚至超過對價格的敏感度。
亞馬遜想將晶片賣到雲外面?
AWS銷售人員近期已與AT&T等客戶就透過Outposts租用AI晶片進行探索性洽談;亞馬遜亦與企業討論了直接出售晶片用於自建數據中心的可能性。
CEO安迪·賈西在今年4月股東信中提及可能在AWS以外賣晶片後,客戶興趣明顯上升。
去年12月推出的「AWS AI Factories」已允許客戶將Trainium與輝達晶片組合部署於自有數據中心;賈西披露Trainium晶片的未履行合同規模約達2,250億美元。
點解企業唔淨用輝達?
Cognizant雲與基礎設施服務負責人Kumaresan指出:「AI需求增長速度超過了可用計算能力,這促使人們對單一供應商GPU策略以外的方案產生濃厚興趣。」
他強調Trainium和Inferentia被視為「可信賴的生產級選項」,而非GPU短缺時的臨時替代。
這意味著→ 企業的動機不只是慳錢,更是驚買唔到算力——供應緊張正在打破輝達的獨佔格局。
而家仲差啲乜?
雲架構諮詢公司Rhythmic Technologies CEO Daniluk表示,其客戶雖已討論替代方案,但仍處於非常早期的探索階段。
核心顧慮:運行亞馬遜晶片需要新的軟件棧,企業擔心遷移風險同生態成熟度。
簡單來說= 硬件平咗八成,但配套軟件仲未跟上——好似買咗部平價打印機,但唔確定墨盒好唔好搵。
Content is for reference only, not financial advice.