亚马逊推出TorchNeuron开发工具，向英伟达发起迄今最大挑战

亚马逊云科技周一发布了一款名为TorchNeuron的工具，让AI初创公司能够轻松将AI应用迁移到亚马逊的AI芯片Trainium上。此举也直接瞄准了英伟达的软件优势，正是这一优势让英伟达成为AI应用的默认硬件选择，并推动其崛起为首选AI硬件供应商。TorchNeuron可与PyTorch配合使用，后者是开发者用来构建、训练和运行AI模型的免费开源工具包。据亚马逊介绍，用PyTorch编写的AI应用只需修改一行配置即可在Trainium上运行，无需重写代码。亚马逊称，约85%的AI应用是用PyTorch编写的。PyTorch最初由Facebook开发，自2022年起归属于维护开源项目的Linux基金会。英伟达多年来一直确保其CUDA软件，即让应用能够在英伟达GPU及其他硬件上运行的软件基础设施，能够无缝支持用PyTorch编写的AI应用，因此英伟达硬件已深度嵌入这一工具包，基本成为默认选项。TorchNeuron改编自PyTorch，熟悉PyTorch的开发者已经懂得如何使用它。亚马逊并非第一家尝试让自家芯片轻松接入该平台的公司，PyTorch用户只需简单修改配置，也能将应用移植到AMD的GPU甚至苹果的芯片上。不过亚马逊认为，迁移到Trainium不仅简单，还能让AI初创公司使用亚马逊的整个云平台。AWS声称，这对初创公司而言比使用新兴云服务商更好，其中许多服务商与英伟达及其硬件绑定，例如Coreweave、Nebius和Firmus。AWS Annapurna Labs技术软件副总裁科林·布雷斯表示，在AWS上，从原型到生产所需的基础设施已经就绪，创始人可以快速推进并按需扩展。AWS称，由于同一款芯片既能处理训练也能处理推理，并与初创公司所需的云基础设施紧密集成，即使其单个Token价格并非最低，也能为客户节省成本。布雷斯举例称，AI语音应用提供商Deepgram使用原生PyTorch迁移到Trainium后，在达到生产级准确率的同时，每美元可处理的音频量增加了70%。亚马逊还表示，正在推动PyTorch减少对英伟达的默认依赖，并将把相关代码贡献给PyTorch主项目。