設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

微軟 AI 推理框架 ONNX Runtime 新增支持龍芯 LoongArch 龍架構(gòu)

2024/3/12 11:59:34 來源:IT之家 作者:汪淼 責(zé)編:汪淼

IT之家 3 月 12 日消息,近日,微軟 AI 推理框架開源社區(qū) ONNX Runtime 發(fā)布支持龍架構(gòu)的版本 1.17.0,用戶可以直接使用 ONNX Runtime 開源社區(qū)發(fā)布的版本,在龍芯平臺完成 AI 推理類應(yīng)用的開發(fā)和部署,標志著龍架構(gòu)軟件生態(tài)得到進一步完善。

圖片

IT之家注:ONNX Runtime(ORT)是近年來興起的 AI 推理框架軟件,被大量 AI 應(yīng)用作為基礎(chǔ) AI 推理引擎。ORT 可支持 PyTorch、Tensorflow、TFLite 等多種格式的模型輸入,以及 CPU、GPU、IoT、NPU、FPGA 等多樣化算力后端。

龍芯中科表示,在 ONNX Runtime 社區(qū) 1.17.0 版本的研制過程中,龍芯中科技術(shù)團隊與社區(qū)保持緊密合作,期間向 ONNX Runtime 社區(qū)代碼倉庫提交了 7697 行代碼,對矩陣乘法、卷積、轉(zhuǎn)置等核心算子進行深度向量優(yōu)化。

在社區(qū)支持下,龍架構(gòu)優(yōu)化代碼通過了檢視、測試驗證等質(zhì)量保證流程,ONNX Runtime 社區(qū)自 1.17.0 版本起正式實現(xiàn)對龍架構(gòu)的原生支持。

IT之家附 ONNX Runtime 源碼下載地址:

https://github.com/microsoft/onnxruntime

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:ONNX,AI推理LoongArch,龍芯

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機APP應(yīng)用 魔方 最會買 要知