設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

閃迪介紹高帶寬閃存 HBF:單 AI 推理 GPU 存儲(chǔ)容量即可滿足前沿模型需求

2025/2/13 11:11:25 來源:IT之家 作者:溯波(實(shí)習(xí)) 責(zé)編:溯波

IT之家 2 月 13 日消息,閃迪即將在今年一季度完成從西部數(shù)據(jù)的拆分,并計(jì)劃獨(dú)立上市。而在當(dāng)?shù)貢r(shí)間本月 11 日的投資者活動(dòng)上,閃迪介紹了其有望改變 AI 推理 GPU 存儲(chǔ)生態(tài)的前沿技術(shù)高帶寬閃存 HBF。

閃迪的 HBF 是一款帶寬優(yōu)化的 NAND 產(chǎn)品,采用了與 HBM 基本一致的設(shè)計(jì)思路(大量 I/O 引腳、多層堆疊)并與 HBM 共享相同電氣接口,帶寬也能與 HBM 匹配。不過 HBF 對協(xié)議進(jìn)行了調(diào)整以適應(yīng)存儲(chǔ)介質(zhì)從 DRAM 到 NAND 的切換,因此 HBF 和 HBM 不完全兼容。

在 HBF 中多層核心裸晶(Core Die)采用微凸塊(Micro Bump)的方式采用硅通孔(TSV)的手段堆疊在一起,整個(gè) HBF 堆棧底部則是負(fù)責(zé)同計(jì)算芯片通信的邏輯裸晶(Logic Die)。

閃迪宣稱其 HBF 技術(shù)可實(shí)現(xiàn)超低的裸晶翹曲,目前已可實(shí)現(xiàn) 16 層堆疊,單堆棧容量可達(dá) 512GB

這意味著 2.5D 集成 8 個(gè) HBF 堆棧的單個(gè) AI GPU 就能擁有高達(dá) 4096GB(4TB)的存儲(chǔ)空間,是純 HBM 方案的 20 倍以上,可滿足參數(shù)約 1.8T 的前沿 LLM 模型的推理運(yùn)行需求。

此外由于 HBF 和 HBM 技術(shù)路線、性能參數(shù)上的相似性,AI GPU 也可混合配置兩種存儲(chǔ),形成 3072GB HBF + 48GB HBM 等可高度自定義的組合。

除在 AI 推理 GPU 上的應(yīng)用外,閃迪的 HBF 也有望成為邊緣 AI 的重要助力:單顆 HBF 就可容納完整的 64B 模型。

閃迪的 HMF 高帶寬閃存開發(fā)得到了主要 AI 企業(yè)的助力,其計(jì)劃推動(dòng)構(gòu)建 HMF 開放標(biāo)準(zhǔn)生態(tài)系統(tǒng)以實(shí)現(xiàn)無縫系統(tǒng)集成。

對于未來 HMF 產(chǎn)品,閃迪也早有規(guī)劃:目標(biāo)到第三代實(shí)現(xiàn) 2 倍容量、2 倍讀取帶寬和 36% 功耗降低。

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:閃迪,HBF

軟媒旗下網(wǎng)站: IT之家 最會(huì)買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會(huì)買 要知