> 自媒体 > AI人工智能 > 微软发布最强生成式 AI 虚拟机 扩大 Azure OpenAI 服务范围
微软发布最强生成式 AI 虚拟机 扩大 Azure OpenAI 服务范围
来源:PConline太平洋科技
2023-08-30
170
管理

【太平洋科技资讯】早前,微软与英伟达宣达成合作,发布了Azure ND H100 v5 VM虚拟机预览版。经过数月的测试后,微软在今日正式推出了这款虚拟机,并宣布扩展了其Azure OpenAI服务。

ND H100 v5 VM是Azure迄今为止最强大和高度可伸缩的AI虚拟机系列。该虚拟机支持的按需配置可达8至上千个通过Quantum-2 InfiniBand网络互连的NVIDIA H100 GPU,从而显著提高了AI模型的性能。相较于上一代的ND A100 v4 VM,这款虚拟机包含了一些创新技术。

首先,它搭载了8块NVIDIA H100 Tensor Core GPU,通过下一代NV Switch和NV Link 4.0进行互连。其次,在无阻塞胖树网络中,每个GPU搭载了400 Gb/s的NVIDIA Quantum-2 CX7 InfiniBand,每个虚拟机的性能达到了3.2Tb/s。此外,每个虚拟机中的8块本地GPU之间通过3.8Tb/s的对分割带宽的NV Switch和NV Link 4.0进行互联。此外,该虚拟机还采用了第四代英特尔至强可扩展处理器,以及PCIE第5代主机到GPU的互连,每个GPU的带宽为64Gb/s。最后,它还搭载了16信道的4800 MHz DDR5内存。

这款新的虚拟机使用了NVIDIA的NVIDIA Tensor Core H100 GPU和NVIDIA Quantum-2 InfiniBand网络,目前仅限于美国东部和西部Azure企业访问。微软表示,他们正在努力在明年为其虚拟机添加数十万块新的GPU。

除了推出这款Azure虚拟机,微软还宣布扩展其Azure OpenAI服务,在加拿大东部、美国东部2、日本东部和英国南部地区上线,ChatGPT AI 平台最强大的版本 GPT-4 也将适用于新的 Azure OpenAI 服务区域。

微软表示,Azure OpenAI服务的客户已经超过11000名,本季度平均每天吸引100名新客户。这一显著的增长证明了他们的服务为渴望利用人工智能潜力满足其独特需求的企业带来了价值和可扩展性。

2
点赞
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与华威派无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
凡本网注明 “来源:XXX(非华威派)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。
如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。
QQ:2443165046 邮箱:info@goodmaoning.com
关于作者
酷匠(普通会员)
点击领取今天的签到奖励!
签到排行
2
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索