初創公司將270億參數模型塞進iPhone,蘋果已與其會談

Claire Weston
Published todayAbout 3 min read

初創公司PrismML將270億參數大模型從54GB壓縮至不足4GB,可在iPhone上本地運行;蘋果已就該技術與其展開會談,指向設備端AI戰略的關鍵缺口。

01

270億參數塞進手機——到底怎麼做到的?

PrismML對阿里巴巴開源模型Qwen 3.6進行壓縮,體積從約54GB縮至不足4GB,壓縮比超過90%
關鍵差異:蘋果自家設備端模型雖有200億參數,但採用稀疏架構(一種「按需激活」的設計,每次只啟用一小部分參數),實際運行時僅10億至40億參數在工作;PrismML則是270億參數全部同時激活
這意味著→ 同樣放在手機裡跑,PrismML的模型「全員上陣」,蘋果的模型只讓少數人上場——理論上前者能處理更複雜的任務。
02

蘋果為甚麼需要這項技術?

蘋果一直將「數據不出設備」視為私隱承諾的核心,但今年6月公佈的Siri升級仍需調用Google Gemini模型,最先進功能跑在Google雲端的Nvidia晶片上
簡單來說= 蘋果口頭上說「一切在手機裡完成」,實際上最強的活還是交給了Google的雲端伺服器。
據報道,蘋果去年嘗試自行壓縮內部AI模型時,性能大幅下滑——這正是PrismML技術對蘋果具有戰略價值的直接原因。
03

PrismML是甚麼來頭?

公司從加州理工學院(Caltech)孵化而來,CEO巴巴克·哈西比是該校電氣工程教授,核心壓縮專利由加州理工持有並獨家授權給PrismML。
今年早些時候完成1,625萬美元種子輪融資,投資方包括科斯拉風險投資(Khosla Ventures)。
科斯拉創辦人維諾德·科斯拉形容PrismML提供了一種「根本性的突破」。公司表示相關開源模型將於下週二正式發佈。
04

全部跑在手機上,真的可行嗎?

並非所有人認同純設備端路線。初創公司Argmax等採用混合架構(部分任務在手機端完成,部分上傳雲端處理),將語音、圖像在本地處理,複雜推理交給雲端。
混合架構支持者的核心論點:雲端大模型以每週更新的速度迭代,純設備端模型享受不到這些最新性能提升。
這反映出一個更深的分歧——設備端AI追求的是私隱和離線可用,雲端AI追求的是持續變強;兩條路線目前誰也說服不了誰。
05

接下來看甚麼?

PrismML計劃繼續將更大模型——包括萬億參數級別——壓縮至設備端,届時將進入與OpenAI GPT、Anthropic Claude同台競技的領域。
蘋果是否最終選擇收購或深度合作PrismML,將是驗證其設備端AI戰略能否擺脫雲端依賴的關鍵信號。
這意味著→ 若蘋果出手,說明它承認僅靠內部團隊無法解決模型壓縮難題;若不出手,純設備端AI的時間表可能繼續拉長。

Content is for reference only, not financial advice.

初創公司將270億參數模型塞進iPhone,蘋果已與其會談 · nashnova