Lecun 一句話，恐怕又要引來(lái)一場(chǎng)唇槍舌戰(zhàn)了。這個(gè)標(biāo)題錯(cuò)得太荒謬了，太搞笑了。
他所說(shuō)的這篇文章不是別的，正是最近在圈內(nèi)引起了一波討論熱潮的《深度學(xué)習(xí)要碰壁了》。
從文章發(fā)布以來(lái)，幾天內(nèi)它在推特上引起了幾百人的轉(zhuǎn)發(fā)點(diǎn)贊。有人認(rèn)同也有人反對(duì)，但真正讓作者氣到跳腳的，還是 Lecun 在 Facebook 上的這條評(píng)論。導(dǎo)致 Gary Marcus 本人直接在推特上“下戰(zhàn)書”：歡迎你發(fā)表觀點(diǎn)，我洗耳恭聽。
并且就在幾個(gè)小時(shí)前，他還掛出 Lecun 在 2018 年發(fā)表的觀點(diǎn)。強(qiáng)調(diào) Lecun 當(dāng)時(shí)認(rèn)為這 10 個(gè)問(wèn)題中有很多都是錯(cuò)的，在目前看來(lái)這些問(wèn)題都還沒(méi)有被解決。
不過(guò)目前 Lecun 還沒(méi)有做出回應(yīng)。
文章具體說(shuō)了什么？
首先，我們來(lái)看一下 Gary Marcus 這篇文章中，具體講了哪些內(nèi)容。大體來(lái)看，全文可分為兩個(gè)部分：
當(dāng)下的深度學(xué)習(xí)充滿了炒作，實(shí)際上只有在粗略計(jì)算時(shí)的效果表現(xiàn)好；
深度學(xué)習(xí)應(yīng)該調(diào)整發(fā)展方向，和符號(hào)處理結(jié)合在一起。
作者開篇即提到了 Hinton 在 2016 年提出的論點(diǎn)：
AI 將在 5 年內(nèi)取代放射科醫(yī)生。
目前來(lái)看，這一豪言的確沒(méi)有實(shí)現(xiàn)。實(shí)際上，AI 在應(yīng)用中遇到的“滑鐵盧”不是少數(shù)：比如代表著醫(yī)療 AI 的 IBM Watson 被拆分出售、GPT-3 等語(yǔ)言模型三觀不正、無(wú)人駕駛事故頻發(fā)……
對(duì)此作者認(rèn)為，深度學(xué)習(xí)在完成輸出對(duì)精密度要求高的結(jié)果時(shí)，表現(xiàn)往往不夠好，以上列舉的 3 個(gè)場(chǎng)景就是最好的論證。而且深度學(xué)習(xí)已經(jīng)遇到了擴(kuò)展限制（scaling limits），也就是再繼續(xù)擴(kuò)大模型所帶來(lái)的的收益，已經(jīng)不夠明顯。
相反，在圖像識(shí)別這種只需要粗略結(jié)果的情況下，深度學(xué)習(xí)的效果是好的。對(duì)此，作者提出了自己的觀點(diǎn)：
深度學(xué)習(xí)應(yīng)該與符號(hào)處理 （symbol manipulation）相結(jié)合。
符號(hào)處理，可以看做是計(jì)算機(jī)內(nèi)部編碼，比如用二進(jìn)制位串來(lái)代表一些復(fù)雜的想法。
為什么得出這樣的觀點(diǎn)？在這里作者舉了一個(gè)例子。在 Meta 發(fā)起的一場(chǎng) NetHack 挑戰(zhàn)比賽上，AI 以 1:3 的成績(jī)敗給了游戲系統(tǒng)。要知道，這其實(shí)是一款在 1987 年就發(fā)布的單人地下城探索游戲，它的地圖由 ASCII 字符編碼。
作者認(rèn)為，AI 之所以會(huì)輸?shù)舯荣?，主要是因?yàn)槊繄?chǎng)游戲都會(huì)重新生成新的地圖，這意味著玩家不能通過(guò)死記硬背地圖來(lái)取勝，而是要理解游戲中的各種標(biāo)志，并且搞清楚它們之間的聯(lián)系。
他還列舉了麥卡錫、明斯基等行業(yè)先驅(qū)的觀點(diǎn)，認(rèn)為符號(hào)處理可以被用來(lái)構(gòu)建精確的人工智能程序，用符號(hào)來(lái)表示獨(dú)立實(shí)體和抽象思想。
不過(guò)純符號(hào)系統(tǒng)在圖像識(shí)別、語(yǔ)音識(shí)別任務(wù)上的表現(xiàn)不夠好。而這部分，正是神經(jīng)網(wǎng)絡(luò)所擅長(zhǎng)的。作者提到，谷歌搜索中的自動(dòng)拼寫糾錯(cuò)，正是神經(jīng)網(wǎng)絡(luò)和符號(hào)處理結(jié)合使用的最好案例。
實(shí)際上，在這方面的探索也從來(lái)沒(méi)有停止過(guò)。比如最負(fù)盛名的 AI——AlphaGo，就是使用符號(hào)樹搜索和神經(jīng)網(wǎng)絡(luò)混合的系統(tǒng)。還有包括 IBM、英特爾、谷歌等科技巨頭，這些年也從未停止過(guò)在這一領(lǐng)域的積極探索。
網(wǎng)友：Lecun 可能只是開玩笑
如此一篇萬(wàn)字長(zhǎng)文，一經(jīng)發(fā)表就在網(wǎng)絡(luò)上激起千層浪。在不少學(xué)界大佬轉(zhuǎn)發(fā)的另一面，也有不少人對(duì) Gary Marcus 的觀點(diǎn)存疑。有人就提出，深度學(xué)習(xí)并不存在碰壁，而是正在經(jīng)歷一個(gè)階段轉(zhuǎn)型期。
也有人用漫畫來(lái)生動(dòng)地表達(dá)自己的看法。
另一邊，支持 Gary Marcuns 的人則表示：
他只是提出來(lái)一種混合模型，這有什么壞處嗎？
而在 Gary Marcus 向 Lecun“下戰(zhàn)書”的推特下面，有人也勸他消消氣。
可能 Lecun 只是說(shuō)著玩的。
最后，我們?cè)賮?lái)了解一下 Gary Marcus。
他是 Robust.AI 的創(chuàng)始人，這是一家智能機(jī)器人公司，自稱擁有世界上第一個(gè)工業(yè)級(jí) AI 認(rèn)知引擎。他還是紐約大學(xué)名譽(yù)教授，在神經(jīng)科學(xué)、遺傳學(xué)、進(jìn)化心理學(xué)、AI 等領(lǐng)域發(fā)表過(guò)大量文章，其文章很多刊登在 Nature、Science 上。
與此同時(shí)，他還是一位作家，作品包括《The Algebraic Mind》《Kluge》《The Birth of the Mind》等。那么對(duì)于這篇長(zhǎng)文，你怎么看呢？歡迎評(píng)論區(qū)分享觀點(diǎn)~
參考鏈接：
[1]https://twitter.com/GaryMarcus/status/1503015357149171717
[2]https://nautil.us/deep-learning-is-hitting-a-wall-14467/
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。