設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

阿里云 PAI 支持云上一鍵部署 DeepSeek-V3、DeepSeek-R1 系列模型

2025/2/7 22:16:56 來源:IT之家 作者:歸瀧(實(shí)習(xí)) 責(zé)編:歸瀧

IT之家 2 月 7 日消息,阿里巴巴(中國)有限公司今日發(fā)文宣布,阿里云 PAI Model Gallery 已經(jīng)支持 DeepSeek-V3DeepSeek-R1 以及所有蒸餾小參數(shù)模型(DeepSeek-R1-Distill)一鍵部署。

據(jù)介紹,Model Gallery 是阿里云人工智能平臺 PAI 的產(chǎn)品組件,它集成了國內(nèi)外 AI 開源社區(qū)中優(yōu)質(zhì)預(yù)訓(xùn)練模型,涵蓋了 LLM、AIGC、CV、NLP 等各個領(lǐng)域。

圖片

IT之家附 PAI Model Gallery 一鍵部署 Deep Seek-V3、Deep Seek-R 步驟如下:

1. 進(jìn)入 Model Gallery。

  • 登錄 PAI 控制臺。

  • 在頂部左上角根據(jù)實(shí)際情況選擇地域。

  • 在左側(cè)導(dǎo)航欄選擇工作空間列表,單擊指定工作空間名稱,進(jìn)入對應(yīng)工作空間內(nèi)。

  • 在左側(cè)導(dǎo)航欄選擇快速開始 > Model Gallery。

圖片

2. 在 Model Gallery 頁面的模型列表中,單擊找到并點(diǎn)擊需要部署的模型卡片,例如“DeepSeek-R1-Distill-Qwen-7B”模型,進(jìn)入模型詳情頁面。

圖片

3. 單擊右上角部署:目前 DeepSeek-R1 支持采用 vLLM 加速部署;DeepSeek-V3 支持 vLLM 加速部署以及 Web 應(yīng)用部署;DeepSeek-R1 蒸餾小模型支持采用 BladeLLM(阿里云 PAI 自研高性能推理框架)和 vLLM 加速部署。選擇部署方式和部署資源后,即可一鍵部署服務(wù),生成一個 PAI-EAS 服務(wù)。

圖片

4. 使用推理服務(wù)。部署成功后,在服務(wù)頁面可以點(diǎn)擊“查看調(diào)用信息”獲取調(diào)用的 Endpoint 和 Token,想了解服務(wù)調(diào)用方式可以點(diǎn)擊預(yù)訓(xùn)練模型鏈接,返回模型介紹頁查看調(diào)用方式說明。

圖片

圖片

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:阿里云,DeepSeek

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會買 要知