在过去的几个月里,微软、谷歌、OpenAI 和英伟达(NVIDIA)等公司因努力推进生成式人工智能硬件和软件服务而成为头条新闻。一家大型科技公司亚马逊(Amazon)也正试图加入人工智能对话。
据 CNBC 报道,亚马逊网络服务部一直在开发两款定制芯片 Inferentia 和 Trainium,希望能与英伟达公司生产的用于训练大型语言模型的 Grace Hopper 超级芯片相媲美。英伟达刚刚发布了下一代 Grace Hopper 平台,该平台将于 2024 年面世。
AWS 对制造定制芯片并不陌生。亚马逊称,现在每台 AWS 服务器中都至少有一个 Nitro 芯片。
目前,亚马逊正在德克萨斯州奥斯汀的办公室里研发新版的 Trainium 和 Inferential 芯片。这是该公司的解决方案,旨在为客户提供一种在 AWS 服务器上使用亚马逊自制芯片训练生成式人工乐虎国际手机版下载的方法,而无需使用基于英伟达的硬件。
亚马逊表示,其最大的优势之一是 AWS 已经有数百万客户在使用,他们已经习惯了服务器及其工具。AWS 技术副总裁 Mai-Lan Tomsen Bukovec 表示:
这是一个速度问题。这些公司开发这些生成式人工智能应用的速度有多快,首先取决于他们从 AWS 中拥有的数据开始,并使用我们提供的计算和机器学习工具。
虽然亚马逊正在尝试制造自己的芯片来训练 LLM,但它也在 AWS 服务器中使用一些英伟达(NVIDIA)芯片来实现同样的目的。今年 7 月,亚马逊宣布向 AWS 用户提供亚马逊 EC2 P5 实例。这些服务器采用了英伟达™(NVIDIA®)H100 Tensor Core GPU。
亚马逊向CNBC表示,"超过10万"的客户正在使用AWS进行机器学习。虽然这只是该公司整个 AWS 客户群的一小部分,但随着生成式人工智能扩展到更多行业,越来越多的客户可能会开始使用亚马逊的解决方案。