亚马逊推 TorchNeuron，拓宽 PyTorch 芯片选择

周一，Amazon Web Services 发布了一款名为 TorchNeuron 的工具，让 AI 初创公司能够轻松将自己的 AI 应用迁移到 Amazon 的 AI 芯片 Trainium 上。此举也直接瞄准了 Nvidia 的软件优势：正是这项优势，让 Nvidia 成为 AI 应用默认选择的硬件，也推动它成为备受青睐的 AI 硬件供应商。

TorchNeuron 可以与 PyTorch 配合使用。PyTorch 是一套免费的开源工具，开发者用它来构建、训练和运行 AI 模型。据 Amazon 介绍，只需修改一行配置，就能让用 PyTorch 编写的 AI 应用在 Trainium 上运行，无须重写代码。

Amazon 表示，约 85% 的 AI 应用使用 PyTorch 编写。PyTorch 最初由 Facebook 开发，自 2022 年起归属于维护开源项目的 Linux Foundation。多年来，Nvidia 一直致力于确保 CUDA 软件能够无缝支持用 PyTorch 编写的 AI 应用。CUDA 是让应用能够在 Nvidia GPU 及其其他硬件上运行的软件基础设施。因此，Nvidia 的硬件如今已经深深融入这套工具，几乎成了默认选项。

TorchNeuron 基于 PyTorch 改造而来，因此熟悉 PyTorch 的开发者已经知道该如何使用它。Amazon 并不是第一家试图让自家芯片轻松接入这个平台的公司。PyTorch 用户同样可以通过简单修改配置，将应用迁移到 AMD GPU，甚至 Apple 的芯片上。

不过，Amazon 认为，迁移到 Trainium 不仅简单，还能让 AI 初创公司使用 Amazon 的整套云服务。不出所料，AWS 声称，对初创公司来说，这比使用 neocloud 更好。许多这类新兴云服务商与 Nvidia 及其硬件紧密绑定，例如 CoreWeave、Nebius 和 Firmus。

“你是在 AWS 上构建业务，无须把赌注押在一家只提供算力的服务商身上，再手忙脚乱地围绕它补齐其他一切。”AWS Annapurna Labs 技术软件副总裁 Colin Brace 通过电子邮件告诉 TechCrunch。Annapurna Labs 是负责开发 Amazon 定制芯片的部门。他接着说：“在 AWS 上，从原型走向生产所需的基础设施已经就绪，让创业者能够快速推进，并在需要时扩展规模。”

AWS 表示，同一款芯片既能处理训练，也能处理推理，而且与初创公司所需的云基础设施紧密集成，因此，即使 AWS 的每 token 价格不是最低，它的云服务依然能帮助这些公司省钱。训练是指教会 AI 模型，推理则是让训练完成的模型实际工作，比如回答用户的问题。

“Trainium 的价值在于性价比，也在于它用同一个平台同时支持训练和推理，从而改善整个工作负载的成本效益。”Brace 说，“看看 Deepgram：他们借助原生 PyTorch 支持迁移到 Trainium，在保持生产级准确率的同时，每花一美元能处理的音频量增加了 70%。”Deepgram 是一家 AI 语音应用提供商，也是 ElevenLabs 的竞争对手。

但 Amazon 并不满足于只是为 PyTorch 应用开发者提供一个轻松迁移到自家云上的选项。

Amazon 还表示，它正在推动 PyTorch 减少对 Nvidia 的默认依赖，并将把实现这一目标的代码贡献给 PyTorch 主项目。在宣布这款新工具的博客文章中，该公司写道：

Amazon 的做法不局限于自家硬件。公司正在向 PyTorch 上游贡献修改，与 PyTorch 社区合作，移除将框架绑定到特定芯片的代码。目标是让 PyTorch 更少依赖特定硬件，惠及整个开发者社区，而不只是 Trainium 用户。

这样的策略，无疑有利于那些销售硬件和云服务、与 Nvidia 竞争的公司。但 PyTorch 的意义之一，恰恰是替开发者屏蔽让 AI 代码在硬件上运行时那些烦人的复杂问题。如此大幅度地削弱 Nvidia 与 PyTorch 的绑定，究竟会像 Amazon 承诺的那样，为开发者带来更多选择和更实惠的方案，还是只会增加配置上的麻烦，仍有待观察。

无论如何，如果 Amazon 成功让 PyTorch 与 Nvidia 深度解耦，对这家 GPU 巨头的影响，可能远比应对芯片竞争对手更大。正如 Brace 所说：“真正的重点，是消除那种让开发者根本无法拥有真正选择的锁定。”