微软正在推动其利用Azure云计算项目创建的超级计算机而努力,以帮助OpenAI实现其ChatGPT聊天机器人。同时,它还宣布了一个新的人工智能虚拟机,使用英伟达公司的升级版GPU。
微软新推出的ND H100 v5虚拟机使用英伟达的H100 GPU,是之前A100 GPU的升级版。需要添加人工智能功能的公司可以使用这种虚拟机服务,它具有以下特点:
- 8个英伟达H100张量核心GPU通过下一代NVSwitch和NVLink 4.0进行互连
- 每个GPU的400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand,每个虚拟机的3.2Tb/s非阻塞脂肪树网络
- NVSwitch和NVLink 4.0在每个虚拟机的8个本地GPU之间具有3.6TB/s的双向带宽
- 第四代英特尔至强可扩展处理器
- PCIE Gen5主机到GPU互连,每个GPU有64GB/s带宽
- 16通道4800MHz DDR5 DIMMs
这是在微软之前宣布的Azure OpenAI服务中的ChatGPT之外,该服务允许第三方通过Azure访问聊天机器人技术。
在另一篇博文中,微软谈到了该公司如何开始与OpenAI合作,帮助创建ChatGPT的大型语言模型(以及微软自己的Bing Chat)所需的超级计算机。这意味着以一种全新的方式将成千上万的GPU连接在一起。该博客提供了微软Azure高性能计算和人工智能产品主管Nidhi Chappell的解释。
来源:微软