設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

微軟擁抱 DeepSeek,Copilot+ PC 本地運行 7B 和 14B 模型

2025/3/4 11:33:33 來源:IT之家 作者:汪淼 責編:汪淼
感謝IT之家網(wǎng)友 華南吳彥祖gc_time 的線索投遞!

IT之家 3 月 4 日消息,微軟今日宣布,通過 Azure AI Foundry 接入 DeepSeek-R1 7B 和 14B 蒸餾模型,為 Copilot+ PC 提供本地運行 7B 和 14B 模型的能力。

早在今年 1 月,微軟就宣布計劃將 DeepSeek-R1 模型的 NPU 優(yōu)化版本直接帶到搭載高通驍龍 X 處理器的 Copilot+ PC 上。如今,這個承諾終于兌現(xiàn)。

IT之家從微軟官方博客獲悉,模型將從搭載高通驍龍 X 處理器的 Copilot+ PC 開始上線,隨后是英特爾酷睿 Ultra 200V 和 AMD 銳龍的設(shè)備。

由于模型運行在 NPU 上,因此可以減少對 PC 電池續(xù)航和散熱性能影響的同時,持續(xù)獲得 AI 計算能力,CPU 和 GPU 將可用于執(zhí)行其他任務(wù)。

微軟強調(diào),它使用了 Aqua 內(nèi)部自動量化工具,將所有 DeepSeek 模型變體量化為 int4 權(quán)重。不幸的是,模型標記速度相當?shù)?。微軟報告稱,14B 模型的標記速度僅為 8 tok / 秒,而 1.5B 模型的標記速度接近 40 tok / 秒。微軟提到,該公司正在進一步優(yōu)化提高速度。

開發(fā)者可以通過 AI Toolkit VS Code 擴展在 Copilot+ PC 上下載和運行 DeepSeek 模型的 1.5B、7B 和 14B 版本。

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:微軟DeepSeekCopilot

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機APP應(yīng)用 魔方 最會買 要知