設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

華為 ModelEngine AI 平臺支持 DeepSeek 全系列本地部署

2025/2/6 16:55:09 來源:IT之家 作者:歸瀧(實習(xí)) 責(zé)編:歸瀧

IT之家 2 月 6 日消息,華為技術(shù)有限公司今日發(fā)文宣布,旗下 ModelEngine AI 平臺全面支持 DeepSeek 大模型 R1 & V3 和蒸餾系列模型的本地部署與優(yōu)化。

據(jù)介紹,華為 ModelEngine 是大模型訓(xùn)練、推理和應(yīng)用開發(fā)的 AI 平臺,提供從數(shù)據(jù)預(yù)處理到模型訓(xùn)練、優(yōu)化及部署的一站式服務(wù)。此次 ModelEngine 基于昇騰 AI 芯片,通過推理框架優(yōu)化和 MoE 存算協(xié)同,提供動態(tài)換入換出和全局統(tǒng)一緩存,實現(xiàn)推理高并發(fā)和低時延,用戶通過 ModelEngine 體驗 DeepSeek 的推理能力。特性如下:

靈活部署:ModelEngine 全面支持 DeepSeek 系列模型 R1 & V3 671B 以及蒸餾系列模型,開發(fā)者可通過 ModelEngine 實現(xiàn)“一鍵部署”,省去硬件選型、兼容性驗證和環(huán)境配置等繁瑣步驟,大幅降低企業(yè) AI 應(yīng)用門檻。此外,ModelEngine 通過其高度的開放性和模塊化設(shè)計,極大地縮短了 DeepSeek 的本地部署時間。

企業(yè)級穩(wěn)定性:ModelEngine 提供負(fù)載均衡、模型安全接入、多用戶配額管理等高階特性,支持大規(guī)模生產(chǎn)環(huán)境下的穩(wěn)定運行。某證券公司引入 DCS AI 全棧解決方案后,運維成本降低 42%。

另外,華為官方表示,DCS AI 全棧解決方案近期將上線 DeepSeek 體驗環(huán)境。

IT之家注:ModelEngine 是華為 DCS(Data Center Stack)全棧的 AI 訓(xùn)推全流程工具鏈,業(yè)界首個采用 AI 流式編程框架,提供從數(shù)據(jù)處理、知識生成,到模型微調(diào)和部署,以及 RAG 應(yīng)用開發(fā)、應(yīng)用部署,為數(shù)據(jù)處理工程師、模型工程師、應(yīng)用開發(fā)者提供開箱即用的全流程 AI 開發(fā)體驗。

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:華為,DeepSeek,華為 ModelEngine

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會買 要知