設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

AI 訓(xùn)練性能提高 2.5 倍,三星使用 96 張改造的 AMD Instinct MI100 GPU 打造大型計(jì)算系統(tǒng)

2022/12/15 14:24:17 來(lái)源:IT之家 作者:故淵 責(zé)編:故淵

IT之家 12 月 15 日消息,三星使用內(nèi)置 PIM(processing-in-memory)的顯卡,打造出了全球首個(gè)大型計(jì)算系統(tǒng)。援引 Business Korea 報(bào)道,通過(guò)使用 96 張經(jīng)過(guò) PIM 改造的 AMD Instinct MI100 GPU,將 AI 訓(xùn)練性能提高了 2.5 倍。

PIM 是新型計(jì)算機(jī)內(nèi)存,可以加速 CPU 和 GPU 等處理器的處理能力。PIM 最大的特點(diǎn)是每個(gè)內(nèi)存模塊都能夠自行處理數(shù)據(jù),從而減少在內(nèi)存和處理器之間傳輸所需的數(shù)據(jù)量。

三星曾在今年 10 月公開(kāi)展示過(guò)經(jīng)過(guò) PIM 改造的 GPU,而現(xiàn)在該公司將 96 張經(jīng)過(guò) PIM 改造的 GPU 放在集群中。與普通顯存相比,這些經(jīng)過(guò)改進(jìn)的 MI100 芯片不僅性能提高了 2.5 倍,而且功耗降低了 2.67 倍,大大提高了 GPU 在運(yùn)行 AI 算法時(shí)的效率。

三星開(kāi)發(fā) PIM 已有一段時(shí)間了。該公司在 2021 年演示了多種實(shí)現(xiàn),涉及多種不同的內(nèi)存類型,包括 DDR4、LPDDR5X、GDDR6 和 HBM2。在 LPDDR5 形式中,三星在涉及 Meta AI 工作負(fù)載的測(cè)試程序中看到性能提高了 1.8 倍,功耗降低了 42.6%,延遲降低了 70%。

IT之家了解到,AMD Instinct MI100 加速器經(jīng)過(guò)全新設(shè)計(jì),全面迎接計(jì)算新時(shí)代。1 MI100 加速器采用 AMD CDNA 架構(gòu),在計(jì)算和互連性能方面實(shí)現(xiàn)了巨大的飛躍,與上一代 AMD 加速器相比,高性能計(jì)算(FP32 矩陣)性能提升近 3.5 倍,而人工智能 (FP16) 性能則提升近 7 倍。

三星并不是唯一一家開(kāi)發(fā) PIM 芯片的公司 ——SK 海力士今年早些時(shí)候發(fā)布了自己的 PIM 模塊。根據(jù) SK 海力士的初步測(cè)試,其 GDDR6-AiM(內(nèi)存加速器)應(yīng)用程序可將 AI 處理速度提高 16 倍,并將功耗降低 80%。這比三星修改后的 MI100s 快很多,但我們不知道 SK hynix 使用什么工具進(jìn)行測(cè)試,因此不能直接比較。

廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:sam三星

軟媒旗下網(wǎng)站: IT之家 最會(huì)買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會(huì)買 要知