設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

采用 CoWoS 封裝,消息稱英偉達(dá)中國特供版 H20 在 LLM 推理中比 H100 更快

2023/11/9 20:05:20 來源:IT之家 作者:故淵 責(zé)編:故淵

IT之家 11 月 9 日消息,國外科技媒體 Semianalysis 近日發(fā)布付費(fèi)文章,表示三款中國特供版 AI 芯片之一,在 LLM 推理中,要比 H100 快 20% 以上。

IT之家此前報(bào)道,英偉達(dá)即將推出 HGX H20、L20 PCle 和 L2 PCle 接口芯片,這三款芯片均基于英偉達(dá) H100 改良而來,官方已經(jīng)生產(chǎn)出這些 GPU 樣品,并預(yù)估下月投入批量生產(chǎn)。

消息稱英偉達(dá)預(yù)計(jì)最快將于 11 月 16 號之后公布,國內(nèi)廠商最快將在這幾天拿到樣品。

這篇付費(fèi)文章中詳細(xì)介紹了英偉達(dá) H20、L20 和 L2 的詳細(xì)信息,涉及 FLOPS 數(shù)據(jù)、NVLink 帶寬、功耗、內(nèi)存帶寬、內(nèi)存容量、芯片尺寸等。

文章中寫道:

更為重要的是,在這三款中國特供版 GPU 中,其中一款(并未明確是哪款,但應(yīng)該是指 H20)在 LLM 推理中要比 H100 快 20%,而且性能接近于英偉達(dá)明年年初發(fā)布的新款 GPU。

報(bào)道中還提及的一點(diǎn)是,英偉達(dá) HGX H20 采用 HGX 格式,采用臺積電的 CoWoS 封裝。而另外兩款芯片主要基于 Ada,面向游戲領(lǐng)域,不需要復(fù)雜的封裝。

該文章還預(yù)測了英偉達(dá) 2024 和 2025 財(cái)年業(yè)績,此前消息稱由于美國不斷地加碼,英偉達(dá)丟失了超過價(jià)值 50 億美元的訂單,而借助這些中國專供 GPU,會改善英偉達(dá)的業(yè)績表現(xiàn)。

相關(guān)閱讀:

消息稱英偉達(dá)正開發(fā)中國特供版 AI 芯片 HGX H20、L20 PCle 和 L2 PCle

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:英偉達(dá),AI

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會買 要知