当前位置: win11系统之家 >  微软资讯 >  微软正式上线最强生成式AI虚拟机,扩展Azure OpenAI服务

微软正式上线最强生成式AI虚拟机,扩展Azure OpenAI服务

更新时间:2023-08-08 09:17:36作者:relsound
8 月 8 日消息,微软今年 3 月和英伟达合作,宣布推出 Azure ND H100 v5 VM 虚拟机预览版;经过数月的测试之后,微软今天正式推出该虚拟机,帮助企业更高效处理生成式 AI 任务。

微软正式上线最强生成式AI虚拟机,扩展Azure OpenAI服务

此前报道,ND H100 v5 VM,是 Azure 迄今更强大和高度可伸缩的 AI 虚拟机系列。

该虚拟机支持的按需配置可达 8 至上千个通过 Quantum-2 InfiniBand 网络互连的 NVIDIA H100 GPU,使得 AI 模型的性能明显提高。相较上一代 ND A100 v4 VM,本次推出的虚拟机包含以下创新技术:

8 块 NVIDIA H100 Tensor Core GPU,通过下一代 NV Switch 和 NV Link 4.0 互连。

在无阻塞胖树网络中,每个 GPU 搭载 400 Gb / s NVIDIA Quantum-2 CX7 InfiniBand 和每 VM 3.2Tb / s 的性能。

每个 VM 中的 8 块本地 GPUs 之间通过 3.8Tb / s 对分割带宽的 NV Switch 和 NV Link 4.0 互联。

第四代英特尔至强可扩展处理器。

PCIE 第 5 代主机到 GPU 互连,每个 GPU 带宽为 64Gb / s。

16 信道的 4800 MHz DDR5 内存。

新的虚拟机使用 NVIDIA 的 NVIDIA Tensor Core H100 GPU 和 NVIDIA Quantum-2 InfiniBand 网络,当前仅限于美国东部和西部 Azure 企业访问。

微软补充说,公司正在努力在明年为其虚拟机添加数十万块新的 GPU。

微软正式宣布该 Azure 虚拟机之外,还宣布扩展其 Azure OpenAI 服务,在加拿大东部、美国东部 2(East United States 2)、日本东部和英国南部地区上线。

微软表示 Azure OpenAI 服务客户已经超过 11000 名,本季度平均每天吸引 100 名新客户。

微软还补充说,ChatGPT AI 平台最强大的版本 GPT-4 也将适用于新的 Azure OpenAI 服务区域。

相关教程