設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

駕馭萬(wàn)億參數(shù) AI 模型,英偉達(dá)推出基于 Blackwell 的 DGX SuperPOD 超算

2024/3/19 13:46:00 來(lái)源:IT之家 作者:故淵 責(zé)編:故淵

IT之家 3 月 19 日消息,英偉達(dá)在今天召開(kāi)的 GTC 開(kāi)發(fā)者大會(huì)上,推出了用于處理萬(wàn)億參數(shù) AI 模型的 DGX SuperPOD,為超大規(guī)模的生成式 AI 訓(xùn)練和推理工作負(fù)載提供穩(wěn)定的性能輸出。

IT之家從報(bào)道中獲悉,全新的 DGX SuperPOD 采用全新的高效水冷機(jī)架式架構(gòu),搭載英偉達(dá) DGX GB200 系統(tǒng),在 FP4 精度下提供 11.5 exaflops 的人工智能超級(jí)計(jì)算能力和 240 terabytes 的快速內(nèi)存,客戶可通過(guò)增加機(jī)架進(jìn)一步擴(kuò)展。

每套 DGX GB200 系統(tǒng)擁有 36 個(gè)英偉達(dá) GB200 加速卡,其中包括 36 個(gè)英偉達(dá) Grace CPU 和 72 個(gè)英偉達(dá) Blackwell GPU,通過(guò)第五代英偉達(dá) NVLink 連接成一臺(tái)超級(jí)計(jì)算機(jī)。

與英偉達(dá)?(NVIDIA?)H100 Tensor Core GPU 相比,GB200 加速卡在大型語(yǔ)言模型推理工作負(fù)載方面的性能最多可提升 30 倍。

DGX SuperPOD 包含 8 套及以上 DGX GB200 系統(tǒng),通過(guò)英偉達(dá) Quantum InfiniBand 連接,可擴(kuò)展至數(shù)萬(wàn)片 GB200 加速卡。

英偉達(dá)目前為客戶提供的默認(rèn)配置包含 576 個(gè) Blackwell GPU,通過(guò) NVLink 連接 8 套 DGX GB200 系統(tǒng)。

英偉達(dá)公司創(chuàng)始人兼首席執(zhí)行官黃仁勛表示:

英偉達(dá) DGX 人工智能超級(jí)計(jì)算機(jī)是人工智能產(chǎn)業(yè)革命的工廠。全新的 DGX SuperPOD 結(jié)合了英偉達(dá)加速計(jì)算、網(wǎng)絡(luò)和軟件方面的最新進(jìn)展,讓每個(gè)公司、行業(yè)和國(guó)家都能完善和生成自己的人工智能。

廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:英偉達(dá),AI

軟媒旗下網(wǎng)站: IT之家 最會(huì)買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會(huì)買 要知