微軟今年 3 月和英偉達(dá)合作，宣布推出 Azure ND H100 v5 VM 虛擬機(jī)預(yù)覽版；經(jīng)過(guò)數(shù)月的測(cè)試之后，微軟今天正式推出該虛擬機(jī)，幫助企業(yè)更高效處理生成式 AI 任務(wù)。
據(jù)此前報(bào)道，ND H100 v5 VM，是 Azure 迄今更強(qiáng)大和高度可伸縮的 AI 虛擬機(jī)系列。
該虛擬機(jī)支持的按需配置可達(dá) 8 至上千個(gè)通過(guò) Quantum-2 InfiniBand 網(wǎng)絡(luò)互連的 NVIDIA H100 GPU，使得 AI 模型的性能明顯提高。相較上一代 ND A100 v4 VM，本次推出的虛擬機(jī)包含以下創(chuàng)新技術(shù)：
(相關(guān)資料圖)
8 塊 NVIDIA H100 Tensor Core GPU，通過(guò)下一代 NV Switch 和 NV Link 4.0 互連。
在無(wú)阻塞胖樹(shù)網(wǎng)絡(luò)中，每個(gè) GPU 搭載 400 Gb / s NVIDIA Quantum-2 CX7 InfiniBand 和每 VM 3.2Tb / s 的性能。
每個(gè) VM 中的 8 塊本地 GPUs 之間通過(guò) 3.8Tb / s 對(duì)分割帶寬的 NV Switch 和 NV Link 4.0 互聯(lián)。
第四代英特爾至強(qiáng)可擴(kuò)展處理器。
PCIE 第 5 代主機(jī)到 GPU 互連，每個(gè) GPU 帶寬為 64Gb / s。
16 信道的 4800 MHz DDR5 內(nèi)存。
新的虛擬機(jī)使用 NVIDIA 的 NVIDIA Tensor Core H100 GPU 和 NVIDIA Quantum-2 InfiniBand 網(wǎng)絡(luò)，當(dāng)前僅限于美國(guó)東部和西部 Azure 企業(yè)訪(fǎng)問(wèn)。
微軟補(bǔ)充說(shuō)，公司正在努力在明年為其虛擬機(jī)添加數(shù)十萬(wàn)塊新的 GPU。
微軟正式宣布該 Azure 虛擬機(jī)之外，還宣布擴(kuò)展其 Azure OpenAI 服務(wù)，在加拿大東部、美國(guó)東部 2（East United States 2）、日本東部和英國(guó)南部地區(qū)上線(xiàn)。
微軟表示 Azure OpenAI 服務(wù)客戶(hù)已經(jīng)超過(guò) 11000 名，本季度平均每天吸引 100 名新客戶(hù)。
這一顯著的增長(zhǎng)證明了我們的服務(wù)為渴望利用人工智能潛力滿(mǎn)足其獨(dú)特需求的企業(yè)帶來(lái)的價(jià)值和可擴(kuò)展性。
微軟還補(bǔ)充說(shuō)，ChatGPT AI 平臺(tái)最強(qiáng)大的版本 GPT-4 也將適用于新的 Azure OpenAI 服務(wù)區(qū)域。
責(zé)任編輯：李楠
分享到：版權(quán)聲明：凡注明來(lái)源“流媒體網(wǎng)”的文章，版權(quán)均屬流媒體網(wǎng)所有，轉(zhuǎn)載需注明出處。非本站出處的文章為轉(zhuǎn)載，觀(guān)點(diǎn)供業(yè)內(nèi)參考，不代表本站觀(guān)點(diǎn)。文中圖片均來(lái)源于網(wǎng)絡(luò)收集整理，僅供學(xué)習(xí)交流，版權(quán)歸原作者所有。如涉及侵權(quán)，請(qǐng)及時(shí)聯(lián)系我們刪除!關(guān)鍵詞：
