英特尔发布高迪 3 人工智能芯片：比英伟达 H100 快 50%

英特尔发布了最新的人工智能芯片 Gaudi 3，以挑战英伟达（NVIDIA）在人工智能行业的领导地位。与英伟达的 H100 GPU 相比，这款新芯片有望在性能和效率方面实现大幅提升，后者还有更快的 HGX H200。

据英特尔称，Gaudi 3 的能效是 H100 的两倍多，执行 AI 任务的速度是 H100 的 1.5 倍。效率的提高有助于降低与训练大型人工智能模型相关的高昂成本。该芯片还有不同的模块，包括主板上的 8 芯片配置和与现有英特尔服务器设计兼容的板卡。

英特尔表示，它已在 Meta 的 Llama 2 和 Falcon 项目的流行人工智能模型上测试了该芯片，结果显示 Gaudi 3 能够训练变压器和运行复杂的应用程序。

根据英特尔的基准测试，Gaudi 3 在训练大型语言模型（如拥有 70 亿个和 130 亿个参数的 Llama 以及拥有 1750 亿个参数的 GPT-3）方面平均快 50%。此外，Gaudi 3 在推理方面的能效预计将比 H100 高出 40%。

与 Nvidia H100 相比，英特尔 Gaudi 3 在具有 70 亿个和 130 亿个参数的 Llama2 模型以及具有 1750 亿个参数的 GPT-3 模型中的训练时间预计平均缩短 50%。此外，在 Llama 7B 和 70B 参数模型以及 Falcon 180B 参数模型中，英特尔高迪 3 加速器的推理吞吐量预计将比 H100 平均高出 50%1，推理能效平均高出 40%2。

Gaudi 3 的详细规格见下图：

Gaudi 3 通过高速 PCIe Gen 5 x16 链路连接到主机 CPU。英特尔还在开发液冷版本，以实现更高的性能。

据估计，英特尔在人工智能芯片市场的份额约为 80%，此次发布标志着英特尔对英伟达主导地位的最严峻挑战。随着戴尔、惠普和超微等客户纷纷采用新芯片制造服务器，英特尔的目标是抢占相当大的份额。

英特尔在博文中写道："Gaudi 3 将于 2024 年第二季度提供给 OEM 厂商，包括戴尔科技、HPE、联想和 Supermicro。"