IT之家 10 月 31 日消息，摩爾線程今日發(fā)文宣布針對 PyTorch 深度學(xué)習(xí)框架的 MUSA 插件 ——Torch-MUSA 迎來更新，新版本 v1.3.0 全面兼容 PyTorch 2.2.0，進(jìn)一步提升 PyTorch 在 MUSA 架構(gòu)上的模型性能與覆蓋度，并支持模型遷移到國產(chǎn)全功能 GPU。
據(jù)介紹，PyTorch 作為全球廣泛使用的深度學(xué)習(xí)框架，已應(yīng)用在了自然語言處理、計算機(jī)視覺、推薦系統(tǒng)等多個領(lǐng)域。摩爾線程所推出的 Torch-MUSA，專為 PyTorch 提供 MUSA 后端加速支持，用戶可在 MUSA 架構(gòu)上流暢運(yùn)行深度學(xué)習(xí)模型，發(fā)揮國產(chǎn)全功能 GPU 的計算能力。
據(jù)IT之家此前報道，PyTorch 旗下架構(gòu)優(yōu)化庫 torchao 已于本月正式發(fā)布，該優(yōu)化庫主要專注于模型的量化和稀疏性優(yōu)化，能夠在保證性能的同時降低模型的計算成本和 RAM 用量，從而提升模型運(yùn)行效率。
摩爾線程官方表示，Torch-MUSA 自發(fā)布以來，已歷經(jīng)多個版本的迭代。Torch-MUSA 從 v1.0.0 版本開始就支持了 PyTorch 2.0，經(jīng)過開發(fā)與優(yōu)化，最新發(fā)布的 v1.3.0 版本已全面支持 PyTorch 2.2.0。
IT之家附摩爾線程 Torch-MUSA 重點內(nèi)容如下：
功能特性
在 Torch-MUSA 中，用戶只需指定 torch.device ("musa")，即可將現(xiàn)有的 PyTorch 模型遷移到 MUSA 架構(gòu)的 GPU 上運(yùn)行，無需大幅修改代碼。
Torch-MUSA 完全兼容 PyTorch 的自動微分和動態(tài)圖機(jī)制，支持多種常用的神經(jīng)網(wǎng)絡(luò)模塊及優(yōu)化算法，并加速了關(guān)鍵深度學(xué)習(xí)算子的計算。
此外，Torch-MUSA 還支持多種 PyTorch 特性，包括 DDP、JIT、FSDP、Profiler、Extension 等。
版本迭代
v1.1.0：初次發(fā)布，支持 PyTorch 2.0，提供基礎(chǔ)張量操作和常見神經(jīng)網(wǎng)絡(luò)層的 MUSA 加速。
v1.2.0：進(jìn)一步擴(kuò)展算子支持，支持了完整功能的 Profiler、MUSA Extension，并增加了 Torch-MUSA 專有特性如 compare_tool、musa_converter，幫助用戶更快的定位模型精度問題。
v1.3.0：支持 PyTorch 2.2.0，性能進(jìn)一步提升，支持 FSDP，支持更復(fù)雜的模型和更大規(guī)模的數(shù)據(jù)處理。
未來計劃
Torch-MUSA 將繼續(xù)跟進(jìn) PyTorch 的版本更新，計劃支持更高版本的 PyTorch。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。