IT之家 2 月 7 日消息,深度操作系統(tǒng)今日發(fā)文宣布,UOS AI 現(xiàn)已適配接入 DeepSeek-R1 端側(cè)模型,官方提供「離線部署」和「在線接入」兩種方式在 UOS AI 中使用 DeepSeek-R1 模型,用戶可根據(jù)自身設(shè)備及網(wǎng)絡(luò)環(huán)境等情況自行選擇。
方法一:使用 deepin 官方適配的 UOS AI DeepSeek-R1 1.5B 模型離線部署
方法二:使用 UOS AI 的自定義模型接口在線接入 DeepSeek-R1 API
IT之家注:離線部署方式支持 deepin 23、deepin 25 Preview 系統(tǒng)使用;在線接入方式支持 UOS V20、deepin 20.9、deepin 23、deepin 25 Preview 系統(tǒng)使用。詳情如下:
UOS AI 離線部署 DeepSeek-R1 1.5B 模型
Step 1:更新 UOS AI 及向量化模型插件
若您正在使用 deepin 23,可從應(yīng)用商店更新 UOS AI 至最新版。
注:若您是首次在 deepin 中下載使用 UOS AI,根據(jù)界面提示「勾選用戶使用協(xié)議-免費(fèi)領(lǐng)取試用賬號(hào)」后即可直接進(jìn)入 UOS AI 全新版本。
若您正在使用 deepin 25 Preview,請(qǐng)通過以下命令升級(jí) UOS AI 至最新版。
sudo apt update
sudo apt install uos-ai deepin-modelhub uos-ai-rag
更新完成后,打開 UOS AI 的「設(shè)置」選項(xiàng),在「模型配置-本地模型」中選擇「向量化模型插件-安裝 / 更新」,隨后將自動(dòng)跳轉(zhuǎn)至應(yīng)用商店界面,點(diǎn)擊安裝 / 更新即可。
Step 2:安裝 DeepSeek-R1 模型 GGUF 版本
UOS AI 的模型后端驅(qū)動(dòng)框架是基于 llama.cpp,大家可直接在魔搭社區(qū)找到 DeepSeek-R1 的 GGUF 版本。
此處我們將以最通用且便捷的 1.5B 模型為例,其模型大小適中,對(duì)硬件配置要求不高,僅需 CPU 即可實(shí)現(xiàn)流暢推理。(若您正在使用 CUDA 推理,可以等后續(xù) deepin 系統(tǒng)更新 CUDA 版本的推理后端框架)。
已適配 UOS AI 的 DeepSeek-R1 1.5B 模型的下載地址如下:
百度網(wǎng)盤:https://pan.baidu.com/s/1-786vFU4dunpdproiOHdbQ?pwd=zxxw
123 網(wǎng)盤:https://www.123865.com/s/XXsfjv-Jjcph
123 網(wǎng)盤(備用):https://www.123684.com/s/XXsfjv-Jjcph
夸克網(wǎng)盤:https://pan.quark.cn/ s / edbf721fefaf
將模型文件下載完成后,打開文件管理器,直接進(jìn)入如下目錄:
/home/用戶名/.local/share/deepin-modelhub/models #其中用戶名替換為自己的計(jì)算機(jī)用戶名注:若沒有 deepin-modelhub 文件夾以及下面的 models 文件夾,可以自己手動(dòng)創(chuàng)建該文件夾。
進(jìn)入 models 文件夾,將下載完成的模型文件夾解壓后,直接復(fù)制到剛剛創(chuàng)建的文件夾路徑中,注意檢查路徑不要有多的名稱。模型完整路徑如下:
/home/ 用戶名/.local/ share / deepin-modelhub / models / DeepSeek-R1-1.5B / gguf #其中用戶名替換為自己的計(jì)算機(jī)用戶名
經(jīng)過上述步驟,再次打開 UOS AI 界面,即可手動(dòng)切換使用 DeepSeek-R1-1.5B 模型。
以下是一個(gè)簡(jiǎn)單的 DeepSeek-R1 運(yùn)行示例:
UOS AI 在線接入 DeepSeek-R1 API
Step 1:獲取 API key
訪問 DeepSeek 官網(wǎng),注冊(cè) / 登錄賬號(hào)后,創(chuàng)建并獲取 API key。若由于服務(wù)器壓力等問題無法訪問以上頁(yè)面,也可以使用其他訪問渠道獲取 API key。
本文將以硅基流動(dòng)為例,在注冊(cè) / 登錄賬號(hào)后,前往 API 密鑰管理頁(yè)面,創(chuàng)建并獲取 API key。
Step 2:在 UOS AI 中接入 DeepSeek-R1 在線模型
打開 UOS AI 的「設(shè)置」選項(xiàng),在「模型配置」中選擇「在線模型-添加」,進(jìn)入 UOS AI 的添加模型界面。
完成添加窗口中的內(nèi)容填寫,并點(diǎn)擊確定即可,本例中使用到的信息參考如下:
賬號(hào)名稱:自定義
模型類型:自定義
API key:粘貼 Step 1 中所復(fù)制的 API 密鑰
模型名:deepseek-ai / DeepSeek-R1
請(qǐng)求地址:https://api.siliconflow.cn/ v1 / chat / completions
填寫完畢并提交確認(rèn)后,即可在 UOS A I 中選擇 DeepSeek-R1 模型進(jìn)行使用。
理論上只要您硅基流動(dòng)賬戶中的余額夠用,其模型倉(cāng)庫(kù)的所有模型都可以通過上述方法在 UOS AI 中配置調(diào)用,只需在上述配置方法中的模型名處填寫對(duì)應(yīng)的完整模型名稱即可,其它不變。
需要注意的是,在線大模型受網(wǎng)絡(luò)及用戶訪問量影響,偶爾可能會(huì)出現(xiàn)訪問慢、超時(shí)或無法訪問的情況,建議多次嘗試即可。
在線模型由于當(dāng)前適配問題,DeepSeek 深度思考的內(nèi)容與對(duì)話內(nèi)容尚未分開,但這并不影響正常使用,UOS AI 團(tuán)隊(duì)會(huì)在后續(xù)更新中盡快優(yōu)化體驗(yàn)。
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。