設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

離線、在線都支持,深度 deepin UOS AI 接入 DeepSeek-R1 模型

2025/2/7 20:08:31 來源:IT之家 作者:歸瀧(實(shí)習(xí)) 責(zé)編:歸瀧
感謝IT之家網(wǎng)友 菜鳥N號(hào) 的線索投遞!

IT之家 2 月 7 日消息,深度操作系統(tǒng)今日發(fā)文宣布,UOS AI 現(xiàn)已適配接入 DeepSeek-R1 端側(cè)模型,官方提供「離線部署」和「在線接入」兩種方式在 UOS AI 中使用 DeepSeek-R1 模型,用戶可根據(jù)自身設(shè)備及網(wǎng)絡(luò)環(huán)境等情況自行選擇。

  • 方法一:使用 deepin 官方適配的 UOS AI DeepSeek-R1 1.5B 模型離線部署

  • 方法二:使用 UOS AI 的自定義模型接口在線接入 DeepSeek-R1 API

image.png

IT之家注:離線部署方式支持 deepin 23、deepin 25 Preview 系統(tǒng)使用;在線接入方式支持 UOS V20、deepin 20.9、deepin 23、deepin 25 Preview 系統(tǒng)使用。詳情如下:

UOS AI 離線部署 DeepSeek-R1 1.5B 模型

Step 1:更新 UOS AI 及向量化模型插件

若您正在使用 deepin 23,可從應(yīng)用商店更新 UOS AI 至最新版。

圖片

注:若您是首次在 deepin 中下載使用 UOS AI,根據(jù)界面提示「勾選用戶使用協(xié)議-免費(fèi)領(lǐng)取試用賬號(hào)」后即可直接進(jìn)入 UOS AI 全新版本。

若您正在使用 deepin 25 Preview,請(qǐng)通過以下命令升級(jí) UOS AI 至最新版。

  • sudo apt update

  • sudo apt install uos-ai deepin-modelhub uos-ai-rag

更新完成后,打開 UOS AI 的「設(shè)置」選項(xiàng),在「模型配置-本地模型」中選擇「向量化模型插件-安裝 / 更新」,隨后將自動(dòng)跳轉(zhuǎn)至應(yīng)用商店界面,點(diǎn)擊安裝 / 更新即可。

圖片

Step 2:安裝 DeepSeek-R1 模型 GGUF 版本

UOS AI 的模型后端驅(qū)動(dòng)框架是基于 llama.cpp,大家可直接在魔搭社區(qū)找到 DeepSeek-R1 的 GGUF 版本。

此處我們將以最通用且便捷的 1.5B 模型為例,其模型大小適中,對(duì)硬件配置要求不高,僅需 CPU 即可實(shí)現(xiàn)流暢推理。(若您正在使用 CUDA 推理,可以等后續(xù) deepin 系統(tǒng)更新 CUDA 版本的推理后端框架)。

已適配 UOS AI 的 DeepSeek-R1 1.5B 模型的下載地址如下:

  • 百度網(wǎng)盤:https://pan.baidu.com/s/1-786vFU4dunpdproiOHdbQ?pwd=zxxw

  • 123 網(wǎng)盤:https://www.123865.com/s/XXsfjv-Jjcph

  • 123 網(wǎng)盤(備用):https://www.123684.com/s/XXsfjv-Jjcph

  • 夸克網(wǎng)盤:https://pan.quark.cn/ s / edbf721fefaf

將模型文件下載完成后,打開文件管理器,直接進(jìn)入如下目錄:

/home/用戶名/.local/share/deepin-modelhub/models    #其中用戶名替換為自己的計(jì)算機(jī)用戶名

注:若沒有 deepin-modelhub 文件夾以及下面的 models 文件夾,可以自己手動(dòng)創(chuàng)建該文件夾。

進(jìn)入 models 文件夾,將下載完成的模型文件夾解壓后,直接復(fù)制到剛剛創(chuàng)建的文件夾路徑中,注意檢查路徑不要有多的名稱。模型完整路徑如下:

  • /home/ 用戶名/.local/ share / deepin-modelhub / models / DeepSeek-R1-1.5B / gguf   #其中用戶名替換為自己的計(jì)算機(jī)用戶名

圖片

經(jīng)過上述步驟,再次打開 UOS AI 界面,即可手動(dòng)切換使用 DeepSeek-R1-1.5B 模型。

圖片

以下是一個(gè)簡(jiǎn)單的 DeepSeek-R1 運(yùn)行示例:

圖片

UOS AI 在線接入 DeepSeek-R1 API

Step 1:獲取 API key

訪問 DeepSeek 官網(wǎng),注冊(cè) / 登錄賬號(hào)后,創(chuàng)建并獲取 API key。若由于服務(wù)器壓力等問題無法訪問以上頁(yè)面,也可以使用其他訪問渠道獲取 API key。

圖片

本文將以硅基流動(dòng)為例,在注冊(cè) / 登錄賬號(hào)后,前往 API 密鑰管理頁(yè)面,創(chuàng)建并獲取 API key。

圖片

Step 2:在 UOS AI 中接入 DeepSeek-R1 在線模型

打開 UOS AI 的「設(shè)置」選項(xiàng),在「模型配置」中選擇「在線模型-添加」,進(jìn)入 UOS AI 的添加模型界面。

圖片

完成添加窗口中的內(nèi)容填寫,并點(diǎn)擊確定即可,本例中使用到的信息參考如下:

  • 賬號(hào)名稱:自定義

  • 模型類型:自定義

  • API key:粘貼 Step 1 中所復(fù)制的 API 密鑰

  • 模型名:deepseek-ai / DeepSeek-R1

  • 請(qǐng)求地址:https://api.siliconflow.cn/ v1 / chat / completions

圖片

填寫完畢并提交確認(rèn)后,即可在 UOS A I 中選擇 DeepSeek-R1 模型進(jìn)行使用。

圖片

理論上只要您硅基流動(dòng)賬戶中的余額夠用,其模型倉(cāng)庫(kù)的所有模型都可以通過上述方法在 UOS AI 中配置調(diào)用,只需在上述配置方法中的模型名處填寫對(duì)應(yīng)的完整模型名稱即可,其它不變。

圖片

需要注意的是,在線大模型受網(wǎng)絡(luò)及用戶訪問量影響,偶爾可能會(huì)出現(xiàn)訪問慢、超時(shí)或無法訪問的情況,建議多次嘗試即可。

在線模型由于當(dāng)前適配問題,DeepSeek 深度思考的內(nèi)容與對(duì)話內(nèi)容尚未分開,但這并不影響正常使用,UOS AI 團(tuán)隊(duì)會(huì)在后續(xù)更新中盡快優(yōu)化體驗(yàn)。

廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:深度,deepin,UOS,DeepSeeklinux

軟媒旗下網(wǎng)站: IT之家 最會(huì)買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會(huì)買 要知