設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

英偉達(dá)針對(duì) AI 市場(chǎng)推出雙 GPU 產(chǎn)品 H100 NVL,最高使用 188GB HBM3 顯存

2023/3/22 12:53:00 來源:IT之家 作者:故淵 責(zé)編:故淵
感謝IT之家網(wǎng)友 華南吳彥祖 的線索投遞!

IT之家 3 月 22 日消息,英偉達(dá)在 GTC Spring 2023 主題演講中,針對(duì)不斷增長(zhǎng)的 AI 市場(chǎng),推出了全新的雙 GPU 產(chǎn)品 H100 NVL。H100 NVL 在頂部配備了 3 個(gè) NVLink 連接器,使用兩個(gè)相鄰的 PCIe 顯卡插槽。

英偉達(dá)表示在運(yùn)行大型語言模型(LLM)時(shí),常規(guī)顯卡的顯存無法駕馭龐大的數(shù)據(jù)流。因此本次推出的 H100 NVL 最高可以提供 188GB HBM3 顯存,單卡顯存容量 94GB。

H100 NVL 的功耗略高于 H100 PCIe,每個(gè) GPU 為 350-400 瓦(可配置),增加了 50W。IT之家從報(bào)道中獲悉,總性能實(shí)際上是 H100 SXM 的兩倍:FP64 為 134 teraflops,TF32 為 1979 teraflops,F(xiàn)P8 為 7916 teraflops,INT8 為 7916 teraops。

內(nèi)存帶寬也比 H100 PCIe 高很多,每個(gè) GPU 為 3.9 TB / s,總和為 7.8 TB / s(H100 PCIe 為 2 TB / s,H100 SXM 為 3.35 TB / s)。

廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:英偉達(dá)

軟媒旗下網(wǎng)站: IT之家 最會(huì)買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會(huì)買 要知