輝達發布首個開源AI模型Nemotron 3.5 Lightning

Nashnova编辑部
Published todayAbout 3 min read

英偉達8月12日發布首款開源AI模型Nemotron 3.5 Lightning,企業可免費在單塊GPU上本地運行和修改,免費AI的邏輯終點仍是賣更多晶片。

01

這個模型到底能做甚麼?

Nemotron 3.5 Lightning採用蒸餾技術(用大模型的輸出去訓練小模型),把更強大模型的知識壓縮進單塊GPU就能跑的體積
企業可免費下載、使用、修改,毋須向英偉達申請授權或付費
這意味著→ 企業不用把數據交給AI服務商,自己就能在本地訓練和部署,數據不出門,知識產權留在自己手裡。
02

點解英偉達要將模型免費送出去?

英偉達CEO黃仁勳的原話:「免費AI對硬件應該是利好,免費AI對晶片應該是利好。」
簡單來說= 模型免費 → 更多企業用AI → 部署規模擴大 → 運行這些模型的GPU需求增加 → 英偉達賣更多晶片。
這反映出英偉達的戰略重心不在模型本身的收入,而在用開源做槓桿撬動硬件銷量
03

NeMo Switchyard又是甚麼?

英偉達同步發布了開源模型路由工具NeMo Switchyard(一個自動幫你揀模型的調度器),為不同任務選最合適、最慳錢的模型。
副總裁布里斯基表示,這個工具最初是英偉達自己用來控制推理成本的,現已對外開放。
這意味著→ 不是所有任務都需要動用大模型,路由器持續平衡質素、延遲和成本,幫企業壓低AI開支。
04

開源陣營目前甚麼態勢?

發布時間節點值得關注:Meta CEO朱克伯格前一天剛發布開源AI宣言並推出編程模型Muse Spark,英偉達次日跟進。
CrowdStrike、CodeRabbit、Harvey等公司已完成測試和定制化部署,模型已上線HuggingFace及英偉達官網。
這反映出矽谷開源陣營聲勢持續擴大,巨頭正加速用開源搶佔AI生態入口。
05

資本市場點睇?

ARK Invest(木頭姐旗下基金)8月11日合計買入12.2萬股英偉達,當日股價收跌2.86%217.55美元
英偉達股價8月12日盤前一度回升1.6%220.94美元
這意味著→ 開源模型能否實質性擴大GPU終端需求,是驗證「免費AI賣晶片」這套邏輯的核心觀察點。

Content is for reference only, not financial advice.

輝達發布首個開源AI模型Nemotron 3.5 Lightning · nashnova