亚马逊正式推出TorchNeuron,这是一款开源后端工具,旨在让开发者仅需修改一行代码,即可将现有的PyTorch代码部署至其自研的Trainium AI芯片上运行。该工具将于10月20日在圣何塞举行的PyTorch大会上开启公共测试版,并采用Apache 2.0许可证开源,全面支持Trainium2和Trainium3芯片。

降低迁移门槛,但仍存功能缺口

长期以来,将AI代码迁移至新硬件往往涉及数月的重写与测试工作。亚马逊指出,TorchNeuron通过接入PyTorch内置的新硬件添加系统,允许开发者仅通过更改设备设置即可指向Trainium芯片,且标准的测试和扩展工具仍可正常工作。演示显示,模型在标准芯片与Trainium上的学习速度保持一致。

不过,首个版本仍存在局限性。据官方技术博客透露,TorchNeuron目前尚未支持动态输入形状等部分PyTorch功能,约有22,000个PyTorch测试用例被跳过。

生态扩张与商业进展

目前,语音AI初创公司Cartesia和Deepgram、利用该技术进行药物研发的李氏大脑发展研究所已成为早期用户。Hugging Face已在其中的人工智能工具中增加了对Trainium的支持,Uber也在近期与AWS的扩张协议中签约使用这些芯片。

此次发布被视为亚马逊挑战英伟达在AI计算领域主导地位的关键一步。亚马逊首席执行官安迪·贾西今年4月曾预计,公司定制芯片业务的潜在价值可达500亿美元。亚马逊最新数据显示,该业务年化收入已达到250亿美元。值得注意的是,TorchNeuron的发布合作伙伴之一Decart,据报道正与亚马逊洽谈收购事宜。