烽火通信旗下長(zhǎng)江計(jì)算 G440K V2 服務(wù)器實(shí)現(xiàn) DeepSeek 系列模型推理適配和優(yōu)化

2025/2/7 16:33:56 來(lái)源:IT之家 作者:歸瀧(實(shí)習(xí)) 責(zé)編:歸瀧
感謝IT之家網(wǎng)友 Autumn_Dream 的線索投遞!

IT之家 2 月 7 日消息,烽火通信科技股份有限公司今日發(fā)文宣布,旗下長(zhǎng)江計(jì)算近日聯(lián)合昇騰、華為云團(tuán)隊(duì)成功助力某國(guó)有大行完成 DeepSeek-V3 大模型的本地化推理服務(wù)部署。

本次部署使用長(zhǎng)江計(jì)算 G440K V2 服務(wù)器,基于 MindIE 推理引擎,在華為云 AI 開(kāi)發(fā)平臺(tái) ModelArts 上完成。

圖片

據(jù)介紹,G440K V2 服務(wù)器由長(zhǎng)江計(jì)算自主研發(fā),已實(shí)現(xiàn) DeepSeek 系列模型的推理適配和優(yōu)化,其采用 8 模組高效推理方式,可提供 AI 推理能力,滿(mǎn)足 DeepSeek 大模型算力需求。

IT之家從烽火通信獲悉,該服務(wù)器宣稱(chēng)在內(nèi)存帶寬和互聯(lián)能力方面具有優(yōu)勢(shì),在 DeepSeek 系列模型部署中,可提高模型推理速度、響應(yīng)效率和數(shù)據(jù)處理能力,滿(mǎn)足多機(jī)組網(wǎng)推理的需求。當(dāng)前已應(yīng)用于智能客服、文案生成、知識(shí)沉淀等大模型推理場(chǎng)景中,同時(shí)確保部署應(yīng)用中的數(shù)據(jù)安全與自主可控。

廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

軟媒旗下網(wǎng)站: IT之家 最會(huì)買(mǎi) - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會(huì)買(mǎi) 要知