設置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

澎峰科技 + 海光 DCU:自研推理框架全面支持 DeepSeek 系列模型

2025/2/7 19:02:04 來源:IT之家 作者:歸瀧(實習) 責編:歸瀧

IT之家 2 月 7 日消息,澎峰科技在近日正式宣布,其自主研發(fā)的 PerfXLM + 推理框架已基于海光 DCU,完成對 DeepSeek 全系列模型的深度適配與優(yōu)化。

▲ 截圖自澎峰科技官網(wǎng)

據(jù)介紹,在性能方面,PerfXLM + 推理框架通過底層架構(gòu)優(yōu)化,全面適配海光 DCU 算力平臺,為 DeepSeek 模型提供性能支持。針對 DeepSeek-R1-Distill 系列等模型,框架結(jié)合海光 DCU 的并行計算能力,可降低資源消耗,在同等硬件條件下進一步提升推理效率。

生態(tài)方面,海光 DCU 基于 GPGPU 通用加速計算架構(gòu)設計,在兼容性與生態(tài)開放性具備優(yōu)勢,DeepSeek 模型可直接在海光 DCU 上運行,可減少底層適配工作量,技術(shù)團隊僅需聚焦模型精度驗證與持續(xù)性能優(yōu)化,即可實現(xiàn)部署。同時,PerfXLM + 推理框架通過模型量化、算子融合等核心技術(shù),宣稱可為企業(yè)提供低成本、高穩(wěn)定的 AI 推理服務。

場景覆蓋方面,澎峰科技自研 PerfXLM + 推理框架已覆蓋自然語言處理、多模態(tài)理解等核心場景,客戶可基于海光 DCU 集群實現(xiàn)模型快速迭代與彈性擴展,滿足各行業(yè)實時推理需求,推動 AI 技術(shù)規(guī)?;瘧?。

據(jù)IT之家此前報道,中科曙光國家先進計算產(chǎn)業(yè)創(chuàng)新中心有限公司在本月(2 月 4 日)發(fā)文宣布,海光信息技術(shù)團隊成功完成 DeepSeek V3 和 R1 模型與海光 DCU(深度計算單元)國產(chǎn)化適配,并正式上線。

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:澎峰,海光 DCUDeepSeek,PerfXLM

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機APP應用 魔方 最會買 要知