Pytorch

據(jù) PyTorch 新聞稿，PyTorch 旗下架構(gòu)優(yōu)化庫(kù) torchao 現(xiàn)已正式發(fā)布，該優(yōu)化庫(kù)主要專(zhuān)注于模型的量化和稀疏性?xún)?yōu)化，能夠在保證性能的同時(shí)降低模型的計(jì)算成本和 RAM 用量，從而提升模型運(yùn)行效率。

最近，PyTorch 團(tuán)隊(duì)首次公布了開(kāi)發(fā)路線(xiàn)圖，由內(nèi)部技術(shù)文檔直接修改而來(lái)，披露了這個(gè)經(jīng)典開(kāi)源庫(kù)下一步的發(fā)展方向。

繼去年十月份的 PyTorch 大會(huì)發(fā)布了 2.1 版本之后，全世界各地的 521 位開(kāi)發(fā)者貢獻(xiàn)了 3628 個(gè)提交，由此形成了最新的 PyTorch 2.2 版本。

官方博客稱(chēng)，華為長(zhǎng)期以來(lái)一直是 PyTorch 生態(tài)系統(tǒng)的支持者和貢獻(xiàn)者，通過(guò)推進(jìn)多樣性算力支持與改進(jìn)，幫助更多廠(chǎng)商后端能夠更加輕松地接入 PyTorch 生態(tài)，并積極致力于 PyTorch 優(yōu)化，從而充分釋放昇騰的算力。

英特爾日前在官網(wǎng)上發(fā)布新聞稿，宣布以 Premier 會(huì)員身份加入 PyTorch 基金會(huì)。英特爾表示，其五年來(lái)一直積極參與 PyTorch 開(kāi)發(fā)，幫助優(yōu)化 PyTorch 的 CPU 推理性能，并憑借此提升英特爾處理器上的 AI 性能。IT之家早前曾報(bào)道，在 PyTorch 2.0 中，英特爾對(duì) TorchInductor CPU FP32 推理進(jìn)行了優(yōu)化，改進(jìn)了 PyG 中 GNN 的推理和訓(xùn)練性能，并針對(duì) x86 CPU 平臺(tái)優(yōu)化了 Int8 推理，利用 oneDNN Graph API 加快了 CPU 上的推理速度。

“對(duì)于 Python 而言，為什么 TensorFlow 正在慢慢死去？” 這篇觀(guān)點(diǎn)尖銳的文章一出，就被 LeCun 的轉(zhuǎn)發(fā)推向風(fēng)口浪尖：

“所有在 2022 年 12 月 25 日至 12 月 30 日期間，在 Linux 系統(tǒng)安裝了 PyTorch-nightly（每日更新版）的用戶(hù)，請(qǐng)立即卸載！” 上述消息來(lái)自 PyTorch 官方的一則最新聲明。

現(xiàn)在，只需添加一行代碼，PyTorch2.0 就能讓你在訓(xùn)練 Transformer 模型時(shí)，實(shí)現(xiàn) 1.5 倍-2 倍的速度提升！

AMD 現(xiàn)已加入新成立的 PyTorch 基金會(huì)并成為創(chuàng)始成員。該基金會(huì)將作為非營(yíng)利性 Linux 基金會(huì)的一部分， 并通過(guò)最初由 Meta 創(chuàng)建并支持的機(jī)器學(xué)習(xí)（ML）軟件框架 PyTorch 來(lái)促進(jìn)和維持一個(gè)開(kāi)源項(xiàng)目生態(tài)系統(tǒng)，以推動(dòng)人工智能（AI）工具的采用

最新消息，PyTorch 現(xiàn)在已經(jīng)從 Meta“獨(dú)立”出來(lái)了

一直以來(lái)，Pytorch 在 Mac 上僅支持使用 CPU 進(jìn)行訓(xùn)練。就在剛剛，Pytorch 官方宣布，其最新版 v1.12 可以支持 GPU 加速了。只要是搭載了 M1 系列芯片的 Mac 都行。

今天是 PyTorch 公開(kāi)發(fā)布 5 周年！我們沒(méi)想到會(huì)走這么遠(yuǎn)，但我們現(xiàn)在達(dá)成了這些成就 ——2000 貢獻(xiàn)者，9 萬(wàn)項(xiàng)目，GitHub 上 390 萬(wàn)行“import torch”。

多少人用 PyTorch“煉丹”時(shí)都會(huì)被這個(gè) bug 困擾，現(xiàn)在，有人寫(xiě)了一個(gè) PyTorch wrapper，用一行代碼就能“無(wú)痛”消除這個(gè) bug

用他自己的話(huà)來(lái)說(shuō)就是 ——“爬樓時(shí)像給了你一個(gè)電梯”。

相信不少人在“煉丹”過(guò)程中，光是安裝或更新下面這“幾大位”時(shí)就經(jīng)歷了一段 "血淚史" 吧

2018年medium上一篇博文分析了數(shù)據(jù)科學(xué)家最需要的技能，那篇文章引起了很大的反響。一年多過(guò)去了，2019的作者也發(fā)布了最新的分析，讓我們看看有什么變化

來(lái)自康奈爾大學(xué)的Horace He剛剛在Gradient發(fā)布了一篇長(zhǎng)文探討2019年的兩大機(jī)器學(xué)習(xí)框架之爭(zhēng)，他論述了PyTorch和TensorFlow各自的優(yōu)劣和發(fā)展趨勢(shì)，但是很明顯更看好PyTorch，特別是其在學(xué)術(shù)領(lǐng)域起到的驅(qū)動(dòng)作用