當(dāng)前位置： 首頁(yè) > 資訊 > 生活 >

微軟Azure宣布集成了英偉達(dá)針對(duì)AI應(yīng)用程序的加速計(jì)算技術(shù)

時(shí)間：2023-08-10 10:19:32

(資料圖片)

編程客棧（）8月10日消息:微軟 Azure 宣布了其與英偉達(dá)的加速計(jì)算技術(shù)的集成，為生成式 AI 應(yīng)用的訓(xùn)練和部署帶來了進(jìn)步。通過將 Azure ND H100v5虛擬機(jī) （VM）與英偉達(dá) H100Tensor Core GPU 和 Quantum-2InfiniBand 網(wǎng)絡(luò)集成，用戶可以輕松地?cái)U(kuò)展他們的生成式 AI 和高性能計(jì)算應(yīng)用。

微軟 Azure 和英偉達(dá) 的合作正值開發(fā)者和研究人員探索大型語(yǔ)言模型（LLMs）和加速計(jì)算在各種消費(fèi)者和商業(yè)用例中的潛力的關(guān)鍵時(shí)刻。

英偉達(dá) 的 H100GPU 提供了超級(jí)計(jì)算級(jí)的性能，它具有第四代 Tensor Cores、用于加速 LLMs 的 Transformer Engine 和用于快速 GPU 間通信的 NVLink 技術(shù)。憑借令人印象深刻的3，200Gbps 跨節(jié)點(diǎn)帶寬，英偉達(dá) Quantum-2CX7InfiniBand 的集成確保了 phpGPU 之間的無縫性能，使其與先進(jìn)超級(jí)計(jì)算機(jī)的計(jì)算能力相媲美。

ND H100v5VMs 的引入為訓(xùn)練和推斷復(fù)雜的 LLMs 和計(jì)算機(jī)視覺模型開辟了新的可能性。這些神經(jīng)網(wǎng)絡(luò)為諸如問答、代碼生成、音頻、視頻、圖像合成和語(yǔ)音識(shí)別等應(yīng)用提供了動(dòng)力。

ND H100v5VMs 的突出特點(diǎn)是它們能夠在 LJoVmUxLM 推斷方面實(shí)現(xiàn)高達(dá)2倍的加速，這一點(diǎn)通過 BLOOM175B 模型得到了證明。這種性能的提升優(yōu)化了 AI 應(yīng)用，并在各個(gè)行業(yè)推動(dòng)了創(chuàng)新。

通過英偉達(dá) 和微軟 Azure 的合作，企業(yè)獲得了無與倫比的 AI 訓(xùn)練和推斷能js力。英偉達(dá) AI Enterprise 軟件套件和 Azure MAChine Learning for MLOps 的集成簡(jiǎn)化了生產(chǎn) AI 的開發(fā)和部署。

此外，合作還通過將英偉達(dá) Omniverse 平臺(tái)與 Azure 集成而延伸，為用戶提供了工業(yè)數(shù)字化和 AI 超級(jí)計(jì)算的工具。

微軟 Azure 和英偉達(dá) 的加速計(jì)算技術(shù)的集成開啟了 AI 應(yīng)用的新可能性，并使企業(yè)能夠利用生成式 AI 的潛力來滿足他們的特定需求。

標(biāo)簽：

來源: 站長(zhǎng)之家編輯: FN008

2023-08-10 09:59:48晨會(huì)集萃

2023-08-10 09:24:22我用80個(gè)案例，給你講透多巴胺設(shè)計(jì)！

2023-08-10 09:06:158月9日基金凈值：信誠(chéng)優(yōu)勝精選混合A最新凈值1.8643，跌0.58%

2023-08-10 08:13:31華為P60 聲音大小影響電量嗎

2023-08-10 07:23:16阿拉冠-C羅點(diǎn)射連續(xù)4場(chǎng)破門利雅得勝利1-0進(jìn)決賽

2023-08-10 06:24:22從默默無聞到競(jìng)逐賽場(chǎng)——上海高校體教融合的縮影

2023-08-10 04:24:18撐字組詞斧字組詞

2023-08-10 01:07:43組織密考、隱秘培訓(xùn)……廣州查處多起違規(guī)組織學(xué)科類培訓(xùn)行為首次吊銷培訓(xùn)機(jī)構(gòu)辦學(xué)許可證