为打破英伟达在人工智能计算领域的垄断,谷歌正式推出专为开源PyTorch框架定制的TorchTPU,旨在消除竞争对手的关键优势。

英伟达GPU之所以主导AI行业,很大程度上是因为绝大多数AI应用均针对其硬件编写。数据显示,超过85%的AI应用基于PyTorch构建。该框架由Meta于2016年推出,当时英伟达GPU已是研究首选,因此PyTorch原生兼容英伟达芯片。即便2022年Meta将其开源并移交Linux基金会,这一硬件依赖惯性仍得以延续。

TorchTPU的出现意在改变这一格局。作为PyTorch的替代版本,它允许开发者仅需少量配置调整,即可将现有模型和应用迁移至谷歌张量处理单元(TPU),无需重写底层代码。TPU是谷歌专为AI工作负载设计的专用芯片。

并非只有谷歌在行动。本周早些时候,亚马逊云(AWS)也发布了类似的PyTorch变体TorchNeuron,支持在其Trainium等芯片上运行AI应用。亚马逊更进一步,直接向PyTorch项目贡献代码,试图从底层解耦对英伟达GPU的依赖。

相比之下,谷歌选择了不同的竞争路径。谷歌表示,其与Meta、Hugging Face以及vLLM、SGLang的开发公司Inferact Inc.和RadixArk Inc.密切合作,确保TorchTPU与主流开发者工具兼容。此外,谷歌还发布了“TPU代理套件”,帮助开发者将AI应用迁移至谷歌云平台并自动修复错误;同时更新了端侧推理工具LiteRT,使其兼容基于PyTorch的应用,支持在智能手机、笔记本电脑等设备上直接运行。

尽管说服数百万开发者从英伟达生态转向TPU并非易事,但这一系列举措表明,谷歌正有信心在长期竞争中逐步削弱英伟达的领先优势。