初创公司将270亿参数模型塞进iPhone,苹果已与其会谈
nashnova research
初创公司PrismML将270亿参数大模型从54GB压缩到不足4GB,可在iPhone上本地运行;苹果已就该技术与其展开会谈,指向设备端AI战略的关键缺口。
270亿参数塞进手机——到底怎么做到的?
PrismML对阿里巴巴开源模型Qwen 3.6进行压缩,体积从约54GB缩至不足4GB,压缩比超过90%。
关键差异:苹果自家设备端模型虽有200亿参数,但采用稀疏架构(一种"按需激活"的设计,每次只启用一小部分参数),实际运行时仅10亿至40亿参数在工作;PrismML则是270亿参数全部同时激活。
这意味着→ 同样放在手机里跑,PrismML的模型"全员上阵",苹果的模型只让少数人上场——理论上前者能处理更复杂的任务。
苹果为什么需要这项技术?
苹果一直把"数据不出设备"当作隐私承诺的核心,但今年6月公布的Siri升级仍需调用谷歌Gemini模型,最先进功能跑在谷歌云的英伟达芯片上。
用大白话说= 苹果嘴上说"一切在手机里完成",实际上最强的活还是交给了谷歌的云服务器。
据报道,苹果去年尝试自行压缩内部AI模型时,性能大幅下滑——这正是PrismML技术对苹果有战略价值的直接原因。
PrismML是什么来头?
公司从加州理工学院(Caltech)孵化而来,CEO巴巴克·哈西比是该校电气工程教授,核心压缩专利由加州理工持有并独家授权给PrismML。
今年早些时候完成1625万美元种子轮融资,投资方包括科斯拉风险投资(Khosla Ventures)。
科斯拉创始人维诺德·科斯拉称PrismML提供了一种"根本性的突破"。公司表示相关开源模型将于下周二正式发布。
全部跑在手机上,真的可行吗?
并非所有人认同纯设备端路线。初创公司Argmax等采用混合架构(混合架构指一部分任务在手机端完成,一部分上传云端处理),将语音、图像在本地处理,复杂推理交给云端。
混合架构支持者的核心论点:云端大模型以每周更新的速度迭代,纯设备端模型享受不到这些最新性能提升。
这反映出一个更深的分歧——设备端AI追求的是隐私和离线可用,云端AI追求的是持续变强;两条路线目前谁也说服不了谁。
接下来看什么?
PrismML计划继续将更大模型——包括万亿参数级别——压缩至设备端,届时将进入与OpenAI GPT、Anthropic Claude同台竞技的领域。
苹果是否最终选择收购或深度合作PrismML,将是验证其设备端AI战略能否摆脱云端依赖的关键信号。
这意味着→ 如果苹果出手,说明它承认仅靠内部团队无法解决模型压缩难题;如果不出手,纯设备端AI的时间表可能继续拉长。
市场有风险,内容仅供研究参考,不构成投资建议。