輝達與AWS深化合作，G7實例推理性能提升4.6倍
Alina Collins
英偉達與AWS於6月23日聯合宣佈三層AI基礎設施升級——推理算力、向量檢索、大規模訓練同步落地，目標是令企業AI項目更快、更平地跑進生產環境。
新一代G7實例，到底強在邊度？
AWS推出搭載英偉達RTX PRO 4500 Blackwell Server Edition GPU的EC2 G7實例，與上一代G6相比，AI推理性能最高提升4.6倍，圖形性能最高提升2.1倍。
這意味著→ 同一筆雲賬單，能跑的推理任務量翻了好幾倍——對正在將AI從實驗室搬入產品線的企業而言，這是最直接的成本槓桿。
G7最多支持8塊GPU、256GB總顯存，網絡帶寬達700Gbps，本地存儲7.6TB NVMe SSD，提供1/2/4/8 GPU多種配置，裸金屬支持即將上線。
十億級向量數據庫，一個鐘就建得好？
AWS將GPU加速向量索引設為Amazon OpenSearch Serverless的默認選項，底層採用英偉達cuVS（一個專門加速向量檢索的GPU庫）。
與純CPU方案相比，向量索引速度最高提升10倍，成本降至四分之一，十億級規模的向量數據庫可在一小時內完成構建。
簡單來說＝ 智能體AI、RAG（檢索增強生成，令大模型先查資料再答的技術）、語義搜索等場景，最耗時的「建索引」環節被大幅壓縮，而且默認就開，毋須額外配置。
「Exemplar Cloud」認證是甚麼意思？
在訓練層面，AWS獲得英偉達針對GB300的「Exemplar Cloud」認證。
這意味著→ 英偉達用自己的參考架構跑了基準測試，確認AWS的基礎設施性能達標——等於給大規模訓練工作負載開了一張「性能合格證」。
對企業客戶而言，這是一個可量化的性能保證：在AWS雲端跑大模型訓練，性能不會低於英偉達給出的基準線。
三層同時升級，對企業意味著甚麼？
推理（G7實例）+ 檢索（cuVS加速）+ 訓練（Exemplar Cloud認證）三層同步落地，意味著企業在AWS上構建AI系統時，從數據檢索到模型推理再到模型訓練的完整鏈路均可獲得英偉達加速。
這反映出 雲廠商與晶片廠商的合作正在從「賣單塊GPU」轉向「賣整條AI生產線」——鎖定企業在一個平台上完成全流程。
真正的懸念在於G7實例的實際定價與cuVS在生產環境中的穩定性——性能提升的數字好睇，但企業最終計的是綜合成本賬。
Content is for reference only, not financial advice.