IT之家 3 月 19 日消息,英偉達在今天召開的 GTC 開發(fā)者大會上,推出了用于處理萬億參數(shù) AI 模型的 DGX SuperPOD,為超大規(guī)模的生成式 AI 訓(xùn)練和推理工作負(fù)載提供穩(wěn)定的性能輸出。
IT之家從報道中獲悉,全新的 DGX SuperPOD 采用全新的高效水冷機架式架構(gòu),搭載英偉達 DGX GB200 系統(tǒng),在 FP4 精度下提供 11.5 exaflops 的人工智能超級計算能力和 240 terabytes 的快速內(nèi)存,客戶可通過增加機架進一步擴展。
每套 DGX GB200 系統(tǒng)擁有 36 個英偉達 GB200 加速卡,其中包括 36 個英偉達 Grace CPU 和 72 個英偉達 Blackwell GPU,通過第五代英偉達 NVLink 連接成一臺超級計算機。
與英偉達?(NVIDIA?)H100 Tensor Core GPU 相比,GB200 加速卡在大型語言模型推理工作負(fù)載方面的性能最多可提升 30 倍。
DGX SuperPOD 包含 8 套及以上 DGX GB200 系統(tǒng),通過英偉達 Quantum InfiniBand 連接,可擴展至數(shù)萬片 GB200 加速卡。
英偉達目前為客戶提供的默認(rèn)配置包含 576 個 Blackwell GPU,通過 NVLink 連接 8 套 DGX GB200 系統(tǒng)。
英偉達公司創(chuàng)始人兼首席執(zhí)行官黃仁勛表示:
英偉達 DGX 人工智能超級計算機是人工智能產(chǎn)業(yè)革命的工廠。全新的 DGX SuperPOD 結(jié)合了英偉達加速計算、網(wǎng)絡(luò)和軟件方面的最新進展,讓每個公司、行業(yè)和國家都能完善和生成自己的人工智能。
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。