設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

亞馬遜首席科學(xué)家李沐B站走紅,連博導(dǎo)們都在追更,還帶你逐段讀懂論文

量子位 2021/10/29 15:51:20 責(zé)編:長河

什么樣的B站Up 主,讓 AI 專業(yè)的導(dǎo)師們紛紛推薦給學(xué)生看,甚至導(dǎo)師自己也追更?

又是什么樣的 Up 主,讓網(wǎng)友直呼“簡直是做慈善”。

沒錯,他就是亞馬遜資深首席科學(xué)家、AI 大牛李沐。

這個學(xué)期,李沐在斯坦福大學(xué)開了一門《實用機器學(xué)習(xí)》的新課,除了斯坦福學(xué)生能在線下學(xué)到以外,課程的錄像、PPT 也都在網(wǎng)上免費公開。

不過B站上能看到的版本卻不是課程錄像,而是李沐回到家里再專門用中文重新錄制的!

課程錄制的地點,是他在家里車庫搭建的攝影棚。而錄制的時間,或許是帶娃的空檔,或許是深夜。

來聽課的網(wǎng)友紛紛表示,“簡直是把飯送到嘴邊”、“還有什么理由不學(xué)?”。

正課之外,李沐最近還新“開坑”了經(jīng)典論文精讀系列。

講了入門必學(xué)的 AlexNet 和 ResNet 論文后,李沐發(fā)起投票問問大家還想聽哪篇論文。

Transformer 高票當(dāng)選,李沐火速更新,逐段精讀長達一個半小時。

李沐給論文精讀系列開的 GitHub 倉庫也在不到一周時間狂攬超過 1500 星,還上了熱榜。

目前 GitHub 頁面里列舉了多篇近年有影響力的論文候選,GAN、BERT、GPT-3 一個都少不了。

還有幾篇李沐覺得值得講的新論文,如 10 月剛剛在 ImageNet 上刷到 SOTA 的“不深的網(wǎng)絡(luò)”。

如果你還想聽老師講解哪篇論文,李沐說“歡迎大家在討論區(qū)里提供(點)建議(歌)”。

于是討論區(qū)的畫風(fēng)就成了這樣。

一門正課再加上穿插的論文精讀,李沐幾乎成了一位日更 Up 主,粉絲數(shù)也在短短幾個月時間突破 10 萬。

網(wǎng)友甚至喊話:建議沐哥直接帶B站研究生!

那么,他的課究竟有什么魅力?為什么如此受歡迎?

他講課突出一個動手

論文精讀這個系列開始于一次投票。

本來李沐問的是大家想聽“三分鐘講論文,知道是什么就行”還是“深入講解,弄懂每一句話”。

沒想到有很多網(wǎng)友留言“其實更希望了解到底該怎么樣讀一篇論文”。

李沐覺得這個想法很好,第二天就錄了一期《如何讀論文》作為系列開篇,把自己多年的心得總結(jié)成實用的流程。

李沐讀論文的方法,是讀三遍:

第一遍,讀完標(biāo)題、摘要后直接跳到結(jié)論部分,然后可以“稍微瞄一眼”主要的圖和表。

這一遍只需要花十幾分鐘,目的是了解這篇論文大概講了什么、質(zhì)量如何,以便快速判斷這篇論文是否適合自己。

第二遍,如果決定繼續(xù)讀下去,就可以從頭到尾粗讀一遍,重點關(guān)注論文使用的方法和之前有何不同。

這一遍也不用關(guān)注太多細(xì)節(jié),公式等細(xì)節(jié)可以先忽略掉,判斷一下了解到這里就可以了,還是真的需要仔細(xì)精讀。

另外如果感覺一篇論文值得仔細(xì)讀但太難了,李沐分享的技巧是先去讀它引用的之前的研究,再回頭讀這一篇門檻會低一些。

第三遍,也是最后一遍精讀,要弄懂論文中每一句話在說什么,李沐推薦讀的時候“腦補”一下如果是自己在做這個工作可以怎么做。

這樣讀完后好像是自己動手做了一遍似的,即使合上文章也能回憶起許多細(xì)節(jié)。

三遍閱讀花費的時間逐漸增加,中途如果發(fā)現(xiàn)其實不需要再讀下去了就隨時停止以節(jié)省時間。

用上這個方法,就能從海量論文中選出那些自己真正需要去詳細(xì)了解的。

如果到這里你還沒學(xué)會,那還可以去看李沐老師實際動手演示用這個方法讀 AlexNet、RestNet 的視頻。

除了學(xué)習(xí)讀論文的方法和論文本身的內(nèi)容,這些視頻中還能聽到從今天的視角看來這些經(jīng)典論文哪些部分已經(jīng)過時了,哪些能作為精髓保留下來。

另外還有李沐自己在行業(yè)多年的經(jīng)歷和體會,像 AlexNet 論文作者的工作報告李沐當(dāng)年可是在現(xiàn)場聽的。

d2l 是《動手學(xué)深度學(xué)習(xí)》課程的英文 Diving Into Deep Learning 的縮寫。

讀論文系列里先講方法再實際動手演示的風(fēng)格,在李沐別的課程中也有體現(xiàn)。

李沐在B站上傳的第 1 門課就叫《動手學(xué)深度學(xué)習(xí) v2》,也是他的書《動手學(xué)深度學(xué)習(xí)》的配套課程,這本書已被全球 100 多所大學(xué)選為教材。

這門課的核心理念為“深度學(xué)習(xí)的關(guān)鍵是動手”,每節(jié)課都提供一個可運行的 Jupyter 筆記本。

最新的《實用機器學(xué)習(xí)》關(guān)注的是機器學(xué)習(xí)在工業(yè)場景的應(yīng)用,也為作業(yè)提供了 Jupyter 筆記本和數(shù)據(jù)集供大家上手操作。

聽這樣的課程,大家表示“如沐春風(fēng)”。對講課的李沐,大家叫他一聲“沐神”。

你的線上導(dǎo)師

而沐神除了課講得精彩,課前課后大家提的各種需求,他也都是盡可能滿足。

1 月注冊賬號,3 月正式開課,8 月底《動手深度學(xué)習(xí) v2》更新完結(jié),沒歇幾天又開了新課《斯坦福 21 秋季:實用機器學(xué)習(xí)中文版》。

如果要評選B站學(xué)習(xí)區(qū)肝帝,李沐老師必須擁有提名!

接近日更的長期高產(chǎn),讓粉絲紛紛留言“老師不用這么拼”、“別累著了”。

除了發(fā)視頻,動態(tài)區(qū)也常常能看到李沐和大家互動。

最近大佬的日常是曬娃,10 月份已經(jīng)發(fā)了 3 次和娃有關(guān)的動態(tài)了。

大家覺得這可賺大了,好像看到大佬的朋友圈一樣。李沐卻說朋友圈里已經(jīng)把朋友都曬沒了。

一來一往之間粉絲們和李沐熟悉了起來,總是忍不住皮一把。

李沐曬了家里后院種的玫瑰,被粉絲建議收集成數(shù)據(jù)集,再就地辦個玫瑰圖像分類比賽,模型可以叫 RoseNet。

比發(fā)朋友圈更常見的,是沐神在評論區(qū)為為粉絲們答疑解惑。

有同學(xué)對學(xué)習(xí)應(yīng)用機器學(xué)習(xí)上心里沒底、不知道自己的數(shù)學(xué)功底夠不夠用。

沐神看到后不僅給出了自己的看法,還怕粉絲看不懂,后續(xù)又詳細(xì)補充了一條回復(fù)。

當(dāng)然了,他時不時也會和大家一起玩?zhèn)€梗。

和你聊完學(xué)習(xí)聊生活人生,這不就是活脫脫的一位線上導(dǎo)師?

有網(wǎng)友就表示,以后自己研究生復(fù)試時都要說師從李沐老師(doge)。

而且李沐對于自己的課程,也非常用心。

他認(rèn)為長視頻能讓大家看下去音質(zhì)是非常重要的。為此他特意剁手買了兩個 300 多美元的專業(yè)麥克風(fēng),錄試音視頻讓粉絲來選哪個效果最好。

即使是中文課程也想配上字幕,為了讓不方便開聲音的粉絲靜音也能學(xué)習(xí),換了能自動識別字幕的剪輯軟件,但發(fā)現(xiàn)并不好用。

這一吐槽“嚇”得網(wǎng)友們趕緊來推薦軟件,生怕他會因此斷更。

此外,李沐的這些課程都是自己抽時間錄制,基本都是在晚上哄娃睡覺后開始。

尤其是論文精講這個系列,錄一篇文章的時間大概是 5 個小時,沐神一般都是每天深夜找半個小時或 1 個小時做一點,差不多 10 天才能出一期。

這也讓人不禁感嘆:沐神真的太勤奮了。

作為工業(yè)界大牛,李沐這些年在教學(xué)上反而花的功夫不少。

他曾在 UC 伯克利擔(dān)任客座教授,去年又開始在斯坦福以兼職講師身份授課。

在視頻平臺上開課也不是他第一次嘗試了。

此前他在 UC 伯克利時,就曾把課程視頻上傳到 YouTube 上,讓更多人免費學(xué)習(xí)。

他和 Alex Smola 等人編寫的《動手學(xué)深度學(xué)習(xí)》也已被視為業(yè)內(nèi)入門深度學(xué)習(xí)的優(yōu)秀教材。

顯然,李沐在降低 AI 入門門檻這件事上,已經(jīng)身體力行多年,這也是眾多 AI 從業(yè)者仰慕李沐的原因之一。

而李沐更讓人佩服的,莫過于他開掛的人生經(jīng)歷了。

李沐本科、研究生均畢業(yè)于上海交通大學(xué),其中本科就讀于上交以培養(yǎng)計算機科學(xué)家而聞名的 ACM 班。

2011 年,由于拿到的 offer 并沒有合適的導(dǎo)師,李沐北上前往百度工作,擔(dān)任高級研究開發(fā)員。

在這期間,他創(chuàng)建了一套分布式機器學(xué)習(xí)廣告系統(tǒng),具體來看就是使用機器學(xué)習(xí)來預(yù)測一個廣告是不是會被用戶點擊。

同年年底,李沐收到了卡內(nèi)基梅隆大學(xué)(CMU)的 offer,2012 年 8 月正式赴美讀博。

讀博期間,李沐一邊進修更多 AI 領(lǐng)域的知識,一邊也在大膽實踐。

他曾和陳天奇在 GitHub 上創(chuàng)建 DMLC 組織,就是這個社區(qū)開發(fā)出了大名鼎鼎的深度學(xué)習(xí)框架 ——MXNet。

博四時,李沐以兼職身份去了亞馬遜,繼續(xù)做 MXNet 的相關(guān)應(yīng)用。

畢業(yè)后,他選擇留在亞馬遜,如今已成為亞馬遜首席科學(xué)家。

根據(jù)自己讀博、工作的經(jīng)歷,李沐都寫了長文總結(jié),曾在知乎上攬贊上萬。

而且大神對寫文這事兒似乎很感興趣,前不久還在B站發(fā)表了《用隨機梯度下降來優(yōu)化人生》一文。

深度學(xué)習(xí),深度人生。有點哲學(xué)家那味兒了。

具體內(nèi)容大家可以移步B站圍觀~

李沐B站個人主頁:

https://space.bilibili.com/1567748478

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:李沐,人工智能

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機APP應(yīng)用 魔方 最會買 要知