AMD發布Gorgon Halo,本地AI支持3000億參數模型

Claire Weston
Published todayAbout 4 min read

AMD推出下一代桌面AI晶片Gorgon Halo,統一記憶體擴至192GB,可在本地運行3000億參數大模型——這意味著DeepSeek、Qwen等開源模型有望脫離雲端、直接在個人電腦上運行。

01

3000億參數塞進一台電腦,怎麼做到?

Gorgon Halo對應Ryzen AI Max 400系列,統一記憶體從上一代的128GB擴至192GB,本地可運行模型的參數上限從2000億提升至3000億,增幅50%
這意味著→ DeepSeek、騰訊等開發商的大型開源模型可以直接部署在桌面端,毋須依賴雲端GPU集群。
簡單來說= 以前這些大模型只能在數據中心跑,現在一台高配筆記本或工作站就夠了。
02

企業為何要將AI搬到本地?

AMD歸納了三重優勢:數據不出設備,降低洩露風險;斷網仍可運行,不受網絡中斷影響;省掉雲端token計費,控制推理成本。
AMD預計,隨著智能體數量增加,企業AI支出將從一次性GPU採購轉向持續性token費用
這意味著→ 本地推理不只是技術偏好,而是企業控制AI總擁有成本的關鍵槓桿。
03

模型愈來愈小,跟本地AI有甚麼關係?

AMD高級副總裁Jack Huynh援引數據:2025年GPT-4開源版需約1200億參數才能在GPQA基準測試中得分80;七個月後,參數僅90億至270億的Qwen模型已超越上一代前沿模型的研究生級推理能力。
這反映出模型小型化正在加速——同等智能所需的參數量在急劇下降。
說白了= 模型變小了,設備跑得動了,本地AI的可行性窗口正在快速打開。
04

軟件生態怎樣配套?

AMD圍繞ROCm軟件棧(一套讓開發者在AMD硬件上跑AI的開源工具)構建開放平台:開發者可在Halo上開發、微調模型,再部署至Instinct GPU和EPYC伺服器,毋須重寫代碼
AMD同步擴大與Hugging Face的合作,提供針對Halo優化的模型、工具鏈和智能體工作流。
這意味著→ AMD試圖用「一次開發、多端部署」的策略,降低開發者從英偉達生態遷移的門檻。
05

企業怎樣管住這些AI智能體?

AMD與思科(Cisco)合作,整合Cloud Control、AI Defense等安全工具,實現token用量監控、AI成本分析及智能體權限管理
行為異常或超出授權權限的智能體可在網絡層被直接隔離。
簡單來說= 企業不僅要讓AI跑起來,還得像管員工一樣管住每個智能體——誰花了多少token、誰越權了,一目了然。
06

落地節奏如何?

Jack Huynh透露,已有逾35款基於Halo架構的產品由惠普、華碩、宏碁、聯想等OEM規劃,覆蓋筆記本、工作站、一體機、迷你PC及開發平台。
Gorgon Halo將進一步擴展至更多商用和企業AI設備。
這意味著→ 硬件鋪貨已有雛形,但企業是否真的願意將大模型推理從數據中心搬到桌面端,仍是驗證這套商業邏輯的關鍵節點。

Content is for reference only, not financial advice.

AMD發布Gorgon Halo,本地AI支持3000億參數模型 · nashnova