谷歌发布第八代TPU,首次拆分训练与推理为两款独立芯片
nashnova ResearchNashNova Research
谷歌周三在拉斯维加斯Cloud Next大会上宣布推出第八代Tensor Processing Unit,首次将训练与推理拆分为两款独立芯片。
训练版TPU的算力是上一代的三倍,能效比提升最高两倍;推理版TPU每美元推理性能较上代提升80%。谷歌表示,两款新芯片将于今年晚些时候向客户及内部团队开放。
拆分的背后,是AI Agent带来的算力结构性变化。谷歌云CEO Thomas Kurian在媒体简报会上解释称,Agent任务比传统查询消耗更多算力,促使企业开始针对训练和推理分别部署专用基础设施。上月,英伟达也在GTC大会上发布了推理专用芯片,两家公司正在同一赛道上加速竞争。
目前使用谷歌TPU训练模型的公司包括谷歌DeepMind旗下Gemini系列、Anthropic、Apple、图像生成初创公司Midjourney,以及Ilya Sutskever创立的Safe Superintelligence。
除芯片之外,谷歌此次还发布了Gemini Enterprise Agent Platform,将原有Vertex AI平台整合其中,新增安全、治理与编排功能,直接面向大型企业客户,与Anthropic的企业级Agent产品展开正面竞争。
Content is for reference only, not financial advice.