IT之家 2 月 16 日消息,國產(chǎn) GPU 廠商景嘉微昨日推出預置 DeepSeek-R1 模型的全國產(chǎn)加固 AI 服務(wù)器,號稱“算力自主”“開箱即用”。
IT之家附設(shè)備參數(shù)如下:
CPU:64~128 核 CPU
最高頻率:2.6GHz
算力:50~2000 TOPS
內(nèi)存容量:256GB
顯存容量:32~512GB
存儲容量:100TB
結(jié)構(gòu)尺寸:標準 19 英寸服務(wù)器,7U 高度,深度 400mm
模型支持:單機支持 DeepSeek-R1 1.5B ~ 70B 蒸餾模型,最多支持 200 + 用戶并發(fā)。
操作系統(tǒng):麒麟 / openEuler 操作系統(tǒng)
集群支持:支持
國產(chǎn)化率:100% 全國產(chǎn)
景嘉微官方公告稱,該服務(wù)器基于 100% 國產(chǎn)化的模組和元器件自主設(shè)計,預置國產(chǎn) DeepSeek-R1 開源大模型,實現(xiàn)從芯片級硬件到系統(tǒng)級軟件的端到端自主可控。
服務(wù)器內(nèi)置 Deepseek-R1 1.5B ~ 70B 蒸餾模型,支持零配置啟動大模型的交互演示。開發(fā)者可快速調(diào)用預置模型接口。
服務(wù)器單機最高可搭載 2000 TOPS 算力與 256GB 高速顯存,單機即可驅(qū)動最高 DeepSeek-R1 70B 蒸餾模型推理,可同時部署多個不同參數(shù)的 DeepSeek-R1 蒸餾模型,最高支持 200 + 用戶高并發(fā)訪問,滿足千人團隊使用場景。通過 RoCE 無損網(wǎng)絡(luò)構(gòu)建彈性算力集群,預留千億級參數(shù)模型部署能力(兼容 DeepSeek-R1 671B 全參數(shù)版本)。
服務(wù)器通過加固設(shè)計,內(nèi)置冗余供電,具備抗強震動、電磁屏蔽、三防(防潮 / 防塵 / 防腐蝕)等特性,確保特種行業(yè)復雜工況下的持續(xù)穩(wěn)定運行。
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。