IT之家 3 月 12 日消息,近日,微軟 AI 推理框架開源社區(qū) ONNX Runtime 發(fā)布支持龍架構(gòu)的版本 1.17.0,用戶可以直接使用 ONNX Runtime 開源社區(qū)發(fā)布的版本,在龍芯平臺完成 AI 推理類應(yīng)用的開發(fā)和部署,標志著龍架構(gòu)軟件生態(tài)得到進一步完善。
IT之家注:ONNX Runtime(ORT)是近年來興起的 AI 推理框架軟件,被大量 AI 應(yīng)用作為基礎(chǔ) AI 推理引擎。ORT 可支持 PyTorch、Tensorflow、TFLite 等多種格式的模型輸入,以及 CPU、GPU、IoT、NPU、FPGA 等多樣化算力后端。
龍芯中科表示,在 ONNX Runtime 社區(qū) 1.17.0 版本的研制過程中,龍芯中科技術(shù)團隊與社區(qū)保持緊密合作,期間向 ONNX Runtime 社區(qū)代碼倉庫提交了 7697 行代碼,對矩陣乘法、卷積、轉(zhuǎn)置等核心算子進行深度向量優(yōu)化。
在社區(qū)支持下,龍架構(gòu)優(yōu)化代碼通過了檢視、測試驗證等質(zhì)量保證流程,ONNX Runtime 社區(qū)自 1.17.0 版本起正式實現(xiàn)對龍架構(gòu)的原生支持。
IT之家附 ONNX Runtime 源碼下載地址:
https://github.com/microsoft/onnxruntime
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。