英特爾面向中國市場推出全新 Gaudi2 處理器：總內(nèi)存帶寬 2.4TB / s、用于訓(xùn)練 AI

IT之家 7 月 11 日消息，英特爾今日面向中國市場推出全新 Gaudi2 處理器，主要應(yīng)用于加速 AI 訓(xùn)練及推理。

IT之家匯總該款處理器參數(shù)信息：

• 24 個可編程 Tensor 處理器核心（TPCs）

• 21 個 100Gbps（RoCEv2）以太網(wǎng)接口

• 96GB HBM2E 內(nèi)存容量

• 2.4TB / 秒的總內(nèi)存帶寬

• 48MB 片上 SRAM

• 集成多媒體處理引擎

英特爾 Gaudi2 處理器的架構(gòu)重點在于高效擴(kuò)展，以滿足大規(guī)模語言模型及生成式 AI 模型的需求；該處理器的每張芯片集成了 21 個專用于內(nèi)部互聯(lián)的 100Gbps 以太網(wǎng)接口。

在 Stable Diffusion 訓(xùn)練上，英特爾 Gaudi2 處理器展示了從 1 張卡至 64 張卡近線性 99% 的擴(kuò)展性，從 256 個加速器到 384 個加速器可實現(xiàn)接近線性的 95% 擴(kuò)展效果。

英特爾與浪潮信息合作的 AI 服務(wù)器 NF5698G7 就是基于 Gaudi2 處理器，NF5698G7 是專為面向生成式 AI 市場創(chuàng)新開發(fā)的新一代 AI 服務(wù)器，該服務(wù)器內(nèi)部集成了 8 顆 Gaudi2 加速卡 HL-225B。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。