本周，PyTorch 迎來了自己的 5 歲生日，官方發(fā)布了一條 Twitter 慶祝。
今天是 PyTorch 公開發(fā)布 5 周年！我們沒想到會走這么遠，但我們現(xiàn)在達成了這些成就 ——2000 貢獻者，9 萬項目，GitHub 上 390 萬行“import torch”。
你細看，官方推文還復古了一把，圖片里用上了 5 年前的原始 Logo。
追憶 5 年前，首個公開版 PyTorch 還不支持 Windows，Python 最新版還是 3.5，當時蘋果操作系統(tǒng)還叫 OS X，PyTorch 的“老父親”Meta 還叫 Facebook。
再看一眼現(xiàn)在 PyTorch 的安裝指導頁面，不禁讓人感嘆深度學習發(fā)展太快。
在這條 Twitter 下許多程序員發(fā)出祝福，一改學術圈推文下冷清的常態(tài)。AI 硬件的“老大哥”英偉達也發(fā)來賀電：
還有網(wǎng)友前來“搗亂”，玩起了 HR 梗：招聘具有 7 年 PyTorch 的程序員。
作為最受歡迎的機器學習框架（之一），PyTorch 誕生的過程并不是想象的那般具有傳奇性。Meta 官方邀請了 LeCun 與 PyTorch 創(chuàng)始人一起回顧了當年那段歷史。
大牛追憶誕生歷史
時間回到 2016 年，當時的 Facebook AI 還在使用 Caffe、Torch 框架。Caffe 是賈揚清在加州大學伯克利分校攻讀博士期間創(chuàng)建的項目，用 C++ 編寫。Torch 則是基于 Lua 語言開發(fā)。
PyTorch 的創(chuàng)始人 Soumith Chintala 回憶說，當時很多框架安裝都非常麻煩，甚至需要手動 gcc 編譯源代碼，如果要用 GPU 加速還要安裝正確的 CUDA 版本，一切都像在碰運氣。
△ Soumith Chintala
TensorFlow 的出現(xiàn)簡化了很多工作。但是還有很多研究是基于 Caffe、Torch 框架，像 Torch 這樣的框架，開發(fā)者甚至還要每組網(wǎng)絡層手動編寫微分，然后再以一種復雜的方式組合在一起。
所以，Chintala 希望開發(fā)在此基礎新一代框架，它可以自動微分，而且使用動態(tài)計算圖。他在 Torch 的 GitHub 頁公開了自己的想法。Chintala 拉來一個實習生 Adam Paszke，后者當時只是華沙大學一年級學生。后來又有兩位核心成員 Sam Gross 和 Gregory Chanan 入伙。
△ Adam Paszke
在經(jīng)歷了一個半月的緊張開發(fā)后，PyTorch 的雛形誕生。Chintala 邀請來自不同公司和大學的大約 100 名開發(fā)者當“小白鼠”，言辭近乎懇求：“你能試用一個小時嗎？用它來做研究，看看有沒有問題?！笔聦嵣希@些早期用戶給了非常多有用的反饋，幫助 PyTorch 小隊一周內(nèi)修復了 30 多個 bug。
據(jù) Chintala 說，不少試用科研人員喜愛上了 PyTorch，很多人寫論文就用上了 PyTorch，甚至論文在公開發(fā)布之前就已經(jīng)在 PyTorch 上發(fā)表。
PyTorch 在起步階段就取得了不錯的成就。經(jīng)過 5 年的發(fā)展，PyTorch 已經(jīng)和 TensorFlow 成為最受歡迎的兩大框架。
與 TensorFlow 之爭
從 PyTorch 誕生至今，它與 TensorFlow 孰優(yōu)孰劣的口水戰(zhàn)就從來沒有停過。如今，PyTorch 已經(jīng)在學術論文圈對 TensorFlow 形成碾壓的態(tài)勢。據(jù)統(tǒng)計 Hugging Face 上有 85% 的模型是 PyTorch 獨家的，TensorFlow 的比例為 8%
如果把目光聚焦到前 30 個受歡迎的項目，那么所有項目都有 PyTorch 代碼，而超過 10 個模型是沒有 TensorFlow 代碼的。
對八家頂尖研究期刊數(shù)據(jù)的統(tǒng)計顯示，PyTorch 誕生當年，僅有 7% 論文的開源代碼由其寫就。而到了 2021 年，將近 80% 的論文都使用 PyTorch 框架。
根據(jù)對 Paper with Code 數(shù)據(jù)的統(tǒng)計，PyTorch 論文比例穩(wěn)步增長，達到了 60%，TensorFlow 的份額被蠶食到僅 11%。
2019 年，有 55% 的 TensorFlow 使用者“叛逃”到 PyTorch 陣營。
不過在產(chǎn)業(yè)界 TensorFlow 還有非常重要的地位，由于 TensorFlow 強大的部署框架和端到端擴展平臺，對于部署生產(chǎn)模型的人來說還是非常重要。
但是在工業(yè)界也有越來越多的人選擇 PyTorch，比如特斯拉的 Autopilot、深度學習研發(fā)框架 Catalyst 等。面對 PyTorch 的強勢地位，甚至連 TensorFlow 的 TensorBoard 可視化工具也加入了對 PyTorch 的支持。另外，PyTorch 官方 Twitter 的關注者里，谷歌大神 Jeff Dean 也赫然在列。
下一個五年，PyTorch 會朝怎樣的方向發(fā)展，Chintala 表示未來會有更多 AI 技術商業(yè)化，PyTorch 將更加重視在產(chǎn)業(yè)界的作用?？磥?PyTorch 和 TensorFlow 的下一場對決是不可避免了。
僅僅 5 年就獲得巨大的成功，就連 PyTorch 創(chuàng)始人 Chintala 本人也沒想到，無論是使用量、貢獻者還是資金支持都超出了他的預料。不知道這算不算凡爾賽呢？
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。