5 月 30 日，世界級(jí)紅人埃隆?馬斯克（Elon Musk）發(fā)了一條推文，稱：
2029 年是關(guān)鍵的一年，如果那時(shí)候我們還沒(méi)有實(shí)現(xiàn)通用人工智能（Artifical General Intelligence，AGI），我會(huì)覺(jué)得很奇怪?；鹦巧系娜藗円惨粯樱ㄓX(jué)得奇怪）。
馬斯克發(fā)推不久，知名人工智能科學(xué)家、紐約大學(xué)心理系教授 Gary F. Marcus 立即寫了一篇博文叫囂馬斯克，從五個(gè)方面向馬斯克「科普」了通用人工智能的知識(shí)，提出自己認(rèn)為 2029 年不可能實(shí)現(xiàn) AGI 的原因。
對(duì)于 Gary Marcus 的叫板，馬斯克還沒(méi)回復(fù)。
圣達(dá)菲研究所的人工智能專家梅蘭妮?米切爾（Melanie Mitchell）建議把賭注放在 longbets.org 網(wǎng)站上，Marcus 稱，只要馬斯克愿意打賭，自己就欣然赴約。
以下是 Gary Marcus 反駁馬斯克的五個(gè)角度，AI 科技評(píng)論作了不改原意的整理如下：
馬斯克是個(gè)「大話」預(yù)言家
第一，馬斯克對(duì)時(shí)間的預(yù)測(cè)總是不太準(zhǔn)確。
2015 年時(shí)，馬斯克說(shuō)距離真正的自動(dòng)駕駛汽車出現(xiàn)還有兩年時(shí)間；從那以后他每年都說(shuō)同樣的話，但真正的自動(dòng)駕駛汽車到現(xiàn)在還沒(méi)出現(xiàn)。
馬斯克不關(guān)注邊緣案例的挑戰(zhàn)
其次，馬斯克應(yīng)該更多地關(guān)注邊緣情況（也就是異常值，或不尋常的情況）的挑戰(zhàn)，并思考這些異常值對(duì)預(yù)測(cè)可能意味著什么。
因?yàn)殚L(zhǎng)尾問(wèn)題，我們很容易認(rèn)為 AI 問(wèn)題比實(shí)際情況要簡(jiǎn)單得多。我們手上有大量的關(guān)于日常事務(wù)的數(shù)據(jù)，當(dāng)前的技術(shù)很容易處理這些數(shù)據(jù)，這就會(huì)誤導(dǎo)我們，給我們一種錯(cuò)誤的印象；而對(duì)于罕見(jiàn)的事件，我們得到的數(shù)據(jù)非常少，且目前的技術(shù)很難去處理這些數(shù)據(jù)。
我們?nèi)祟悡碛写罅康牟煌耆畔⑼评淼募记?，也許可以克服生活中的長(zhǎng)尾問(wèn)題。但對(duì)于目前流行的、更多依賴大數(shù)據(jù)而非推理的人工智能技術(shù)來(lái)說(shuō)，長(zhǎng)尾問(wèn)題是一個(gè)非常嚴(yán)重的問(wèn)題。
2016 年，在一篇題為“Is Big Data Taking Us Closer to the Deeper Questions in Artificial Intelligence?”的采訪中，Gary Marcus 試圖就此發(fā)出警告。他當(dāng)時(shí)是這么說(shuō)的：
盡管有很多關(guān)于人工智能的炒作，也有很多資金投入人工智能，但我覺(jué)得這個(gè)領(lǐng)域正朝著錯(cuò)誤的方向發(fā)展。在深度學(xué)習(xí)和大數(shù)據(jù)這些特定的方向上，目前有很多唾手可得的成果。人們對(duì)大數(shù)據(jù)以及大數(shù)據(jù)現(xiàn)在給他們帶來(lái)的東西感到非常興奮，但我不確定它是否會(huì)讓我們更接近人工智能中更深層的問(wèn)題，比如我們?nèi)绾卫斫庹Z(yǔ)言或我們?nèi)绾瓮评硎澜纭?/p>
…
再想想無(wú)人駕駛汽車。你會(huì)發(fā)現(xiàn)在一般情況下，無(wú)人駕駛汽車是很棒的。如果你把它們放在帕洛阿爾托天氣晴朗的地方，車輛性能會(huì)非常棒。但如果你把車輛放在下雪或下雨的地方，或者以前沒(méi)見(jiàn)過(guò)的地方，這些汽車就難免出問(wèn)題。Steven Levy 寫了一篇關(guān)于谷歌自動(dòng)汽車廠的文章，文章中他談到了 2015 年底的研究讓他們終于讓系統(tǒng)能夠識(shí)別樹(shù)葉。
系統(tǒng)確實(shí)能識(shí)別葉子，但對(duì)于不常見(jiàn)的東西，就不能獲得那么多的數(shù)據(jù)。人類之間可以用常識(shí)來(lái)溝通。我們可以試著弄清楚這個(gè)東西是什么，它是怎么到那里的，但是系統(tǒng)能做的只是記憶東西，這才是真正的限制。
▲ 特斯拉自動(dòng)駕駛撞上價(jià)值 300 萬(wàn)美元的噴氣式飛機(jī)
意想不到的情況一直是當(dāng)代人工智能技術(shù)的禍患，而且可能會(huì)一直是，直到真正的革命出現(xiàn)。這就是為什么 Marcus 保證馬斯克不會(huì)在今年或明年推出 L5 級(jí)別的自動(dòng)駕駛汽車。
異常值并不是完全無(wú)法解決，但仍然是一個(gè)重大問(wèn)題，迄今還沒(méi)有已知的魯棒的解決方案。Marcus 認(rèn)為人們必須擺脫對(duì)深度學(xué)習(xí)等現(xiàn)有技術(shù)的嚴(yán)重依賴。距離 2029 年還有 7 年，7 年是很長(zhǎng)的一段時(shí)間，但是如果要在這個(gè)十年結(jié)束之前實(shí)現(xiàn) AGI，這個(gè)領(lǐng)域就需要在其他想法上進(jìn)行投資。否則，僅僅是異常值就足以使實(shí)現(xiàn) AGI 的目標(biāo)失敗。
通用人工智能范圍很廣
馬斯克需要考慮的第三件事是，AGI 是一個(gè)涉及面很廣的問(wèn)題，因?yàn)橹悄鼙旧淼纳婕懊婧軓V。Marcus 在此處引用了 Chaz Firestone 和 Brian Scholl 的這句話：
世上并不只有一種思維方式，因?yàn)樗季S并不是一個(gè)整體。相反，思維是可以分為部分的，而且其不同部分以不同的方式運(yùn)作：“看到顏色”與“計(jì)劃度假”運(yùn)作的方式不同，而“計(jì)劃度假”與“理解一句話”、“移動(dòng)肢體”、“記住一件事”或“感受一種情緒”都不同。
例如，深度學(xué)習(xí)在識(shí)別物體方面做得相當(dāng)不錯(cuò)，但在計(jì)劃、閱讀或語(yǔ)言理解方面做得差一些。這樣的情況可以用下圖表示：
目前的 AI 在某些感知方面做得很好，但是在其他方面仍需努力。即使在感知中，3D 感知仍然是一個(gè)挑戰(zhàn)，場(chǎng)景理解也沒(méi)有解決。對(duì)于常識(shí)、推理、語(yǔ)言或類比等幾個(gè)領(lǐng)域，仍然沒(méi)有任何穩(wěn)定或值得信賴的解決方案。事實(shí)是，這張餅狀圖 Marcus 已經(jīng)用 5 年了，AI 的情況卻幾乎沒(méi)有改變。
在 Marcus 發(fā)表于 2018 年的文章“Deep Learning: A Critical Appraisal”中，他總結(jié)道：
盡管我提出了這些問(wèn)題，但我不認(rèn)為我們應(yīng)該放棄深度學(xué)習(xí)。
相反，我們需要重新定義深度學(xué)習(xí)：深度學(xué)習(xí)不是一種通用溶劑，而應(yīng)該是一種工具，除了這種工具，我們還需要錘子、扳手和鉗子，更不用說(shuō)鑿子、鉆頭、電壓表、邏輯探頭和示波器。
四年過(guò)去了，許多人仍然希望深度學(xué)習(xí)能成為萬(wàn)能藥；可這對(duì) Marcus 來(lái)說(shuō)仍然是不現(xiàn)實(shí)的，他仍然認(rèn)為人類需要更多的技術(shù)。實(shí)事求是地說(shuō)，7 年可能不足以發(fā)明這些工具（如果它們還不存在的話），也不足以將它們從實(shí)驗(yàn)室投入生產(chǎn)。
Marcus 向馬斯克提出 2018 年“量產(chǎn)地獄”（馬斯克認(rèn)為 Model 3 電動(dòng)轎車量產(chǎn)階段猶如地獄般煎熬，并稱之為“量產(chǎn)地獄” ）的情形。在不到十年的時(shí)間里要對(duì)一套以前從未完全集成過(guò)的技術(shù)進(jìn)行這樣的整合，要求會(huì)非常高。
Marcus 稱，「我不知道馬斯克打算把 Optimus（特斯拉的人形機(jī)器人）打造成什么樣，但我可以保證，通用家用機(jī)器人所需要的 AGI 遠(yuǎn)遠(yuǎn)超過(guò)一輛汽車所需要的，畢竟汽車無(wú)論是在公路上開(kāi)還是在馬路上開(kāi)，或多或少都是差不多的?！?/p>
復(fù)雜的認(rèn)知系統(tǒng)尚未打造
馬斯克需要意識(shí)到的第四件事是，人類仍然沒(méi)有一個(gè)適當(dāng)?shù)姆椒ㄕ搧?lái)構(gòu)建復(fù)雜的認(rèn)知系統(tǒng)。
復(fù)雜的認(rèn)知系統(tǒng)有太多的活動(dòng)部件，這通常意味著，制造無(wú)人駕駛汽車等東西的人最終就像在玩一個(gè)巨大的“打地鼠游戲”，往往剛解決了一個(gè)問(wèn)題，又出現(xiàn)了另一個(gè)問(wèn)題。一個(gè)補(bǔ)丁接一個(gè)補(bǔ)丁有時(shí)能派上用場(chǎng)，有時(shí)則無(wú)效。Marcus 認(rèn)為不可能在不解決方法論問(wèn)題的情況下得到 AGI，而且他認(rèn)為目前還沒(méi)有人提出好的建議。
使用深度學(xué)習(xí)進(jìn)行調(diào)試非常困難，因?yàn)闆](méi)有人真正理解它是如何工作的，也沒(méi)有人知道如何修復(fù)問(wèn)題，以及收集更多數(shù)據(jù)和添加更多層等等。大眾所知道的那種調(diào)試在經(jīng)典編程環(huán)境中并不適用；因?yàn)樯疃葘W(xué)習(xí)系統(tǒng)是如此不可解釋，所以人們不能通過(guò)相同的方式思考程序在做什么，也不能指望通常的消除過(guò)程。相反，現(xiàn)在在深度學(xué)習(xí)范式中，有大量的試錯(cuò)、再訓(xùn)練和重新測(cè)試，更不用說(shuō)大量的數(shù)據(jù)清洗和數(shù)據(jù)增強(qiáng)實(shí)驗(yàn)等等。Facebook 最近的一份報(bào)告坦率地說(shuō)，在訓(xùn)練大型語(yǔ)言模型 OPT 的過(guò)程中遇到了很多麻煩。
有時(shí)候這更像是煉金術(shù)而不是科學(xué)，正如下圖一樣：
▲ “這是你的機(jī)器學(xué)習(xí)系統(tǒng)嗎？”
“對(duì)，你把數(shù)據(jù)倒進(jìn)這一大堆線性代數(shù)里，然后到另一邊去撿答案?！?/p>
“如果答案是錯(cuò)的呢？”
“那就在這一大堆東西上攪和，直到答案看上去正確就行了?！?/p>
編程驗(yàn)證可能最終會(huì)有所幫助，但同樣，在深度學(xué)習(xí)中還沒(méi)有編寫可驗(yàn)證代碼的工具。如果馬斯克想贏這個(gè)賭約，那他們可能也要解決這個(gè)問(wèn)題，而且得很快解決。
打賭標(biāo)準(zhǔn)
馬斯克需要考慮的最后一件事是賭約的標(biāo)準(zhǔn)。如果要打賭就要制定基本規(guī)則。AGI 這個(gè)術(shù)語(yǔ)相當(dāng)模糊，就像 Marcus 前幾天在 Twitter 上說(shuō)的那樣：
我把 AGI 定義為“靈活而通用的智力，具有可與人類智慧相媲美、或超過(guò)人類智慧的智謀和可靠性?！?/p>
Marcus 還提出要跟馬斯克賭一把，并制定具體的基本打賭規(guī)則。他和 Ernie Davis 根據(jù)與 Metaculus 公司合作的人的要求寫下了以下五個(gè)預(yù)言：
到 2029 年，人工智能仍無(wú)法在觀看電影的同時(shí)準(zhǔn)確地告訴你發(fā)生了什么（Marcus 在 2014 年的《紐約客》雜志上稱之為「理解挑戰(zhàn)」），也不能解答出這些角色是誰(shuí)，他們的沖突和動(dòng)機(jī)是什么等問(wèn)題。
到 2029 年，人工智能仍無(wú)法閱讀小說(shuō)并準(zhǔn)確回答有關(guān)情節(jié)、角色、沖突、動(dòng)機(jī)等問(wèn)題。
到 2029 年，人工智能仍無(wú)法在任意廚房里做一個(gè)稱職的廚師。
到 2029 年，人工智能仍無(wú)法根據(jù)自然語(yǔ)言規(guī)范或通過(guò)與非專業(yè)用戶的交互，可靠地編寫超過(guò) 10,000 行無(wú) bug 的代碼。（將現(xiàn)有庫(kù)中的代碼粘合在一起不算數(shù)。）
到 2029 年，人工智能仍無(wú)法從用自然語(yǔ)言編寫的數(shù)學(xué)文獻(xiàn)中任意提取證明，并將其轉(zhuǎn)換為適合于符號(hào)驗(yàn)證的符號(hào)形式。
如果馬斯克（或其他人）在 2029 年成功打破至少三個(gè)預(yù)言，那他就贏了；如果只打破了一兩個(gè)，則不能說(shuō) AGI 能夠?qū)崿F(xiàn)，贏家就是 Marcus。
對(duì)這個(gè)賭約，Marcus 躍躍欲試，并對(duì)馬斯克：“想要打賭嗎？賭 10 萬(wàn)美元怎么樣？”
大家怎么看？你們認(rèn)為誰(shuí)會(huì)贏？（吃瓜）
參考鏈接：
https://garymarcus.substack.com/p/dear-elon-musk-here-are-five-things?s=w
https://www.ted.com/talks/elon_musk_elon_musk_talks_twitter_tesla_and_how_his_brain_works_live_at_ted2022
https://arxiv.org/abs/1801.00631
https://www.wsj.com/articles/elon-musk-races-to-exit-teslas-production-hell-1530149814
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。