微软Azure ND H100 v5 OpenAI虚拟机全面上市

微信扫一扫,分享到朋友圈

微软Azure ND H100 v5 OpenAI虚拟机全面上市

今年 3 月,微软宣布与英伟达合作创建 Azure ND H100 v5 虚拟机(VM)系列。今天,微软宣布这些新型超级计算机现已全面上市,可为企业提供更快的生成式人工智能任务性能、

新虚拟机使用 NVIDIA Tensor Core H100 GPU和NVIDIA Quantum-2 InfiniBand网络。目前,美国东部和西部的 Azure 区域都可以访问这些虚拟机。下面是企业在注册访问这些全新、快速的基于人工智能的虚拟机时可以期待的内容。

  • 超级计算 GPU: 这些虚拟机配备了八个NVIDIA Tensor Core H100 GPU,其人工智能模型性能大大快于前几代产品,为企业提供了无与伦比的计算能力。
  • 新一代计算机处理单元(CPU): 我们深知 CPU 性能对于人工智能训练和推理的重要性,因此选择了第四代英特尔至强可扩展处理器作为这些虚拟机的基础,以确保最佳的处理速度。
  • 低延迟网络: NVIDIA Quantum-2 CX7 InfiniBand具有400GB/秒的跨节点带宽,可确保GPU之间的无缝性能,与全球顶级超级计算机的性能相匹配。
  • 优化主机到 GPU 的性能: 凭借 PCIe Gen5 为每个 GPU 提供 64GB/s 的带宽,Azure 在 CPU 和 GPU 之间实现了显著的性能优势。
  • 大规模内存和内存带宽:DDR5 内存是这些虚拟机的核心,可提供更快的数据传输速度和更高的效率,使其成为大型数据集工作负载的理想选择。

微软补充说,它正努力在明年为其虚拟机增加数十万个这样的新 GPU。

除了新的生成式人工智能Azure虚拟机,微软还宣布扩大其Azure OpenAI服务。该服务现已在加拿大东部、美国东部 2 区、日本东部和英国南部地区推出。

正如我们之前所报道的,该服务将帮助企业创建自己的人工智能驱动的应用程序。自今年 3 月首次发布以来,微软表示已经看到了来自企业的巨大反响:

我们现在为 11,000 多家客户提供服务,本季度平均每天吸引 100 家新客户。这一显著增长证明了我们的服务为渴望利用人工智能潜力满足其独特需求的企业带来的价值和可扩展性。

微软还补充说,ChatGPT 人工智能平台最强大的版本 GPT-4 也将提供给新的 Azure OpenAI 服务区域。

上一篇

Microsoft Teams Shifts应用程序改进了通知功能

下一篇

贝宝推出用于支付的自有稳定币 PayPalUSD (PYUSD)

你也可能喜欢

评论已经被关闭。

插入图片

公众号

公众号
关注我们

排行榜

返回顶部