你認(rèn)為的 AGI 是什么樣子的？OpenAI 聯(lián)創(chuàng)、前特斯拉 AI 總監(jiān) Karpathy 發(fā)文，用自動(dòng)駕駛詮釋 AGI！對(duì)于「通用人工智能」，OpenAI 科學(xué)家 Karpathy 下場(chǎng)做出了解釋。
前幾天，Karpathy 在個(gè)人 blog 發(fā)表了一篇文章「將自動(dòng)駕駛作為 AGI 的一個(gè)案例來(lái)研究」。
不知是何原因，他卻刪除了這篇文章，幸而，還有網(wǎng)絡(luò)備份。
眾所周知，Karpathy 不僅是 OpenAI 的創(chuàng)始成員之一，還曾是特斯拉前 AI 高級(jí)總監(jiān)、自動(dòng)駕駛 Autopilot 負(fù)責(zé)人。
他將自動(dòng)駕駛作為案例，研究 AGI，這篇文章的觀點(diǎn)確實(shí)值得一看。
自動(dòng)駕駛
LLM 的爆發(fā)引發(fā)了眾多關(guān)于 AGI 降臨的時(shí)間，甚至它可能是什么樣子的討論。有的人對(duì) AGI 未來(lái)充滿希望，持有樂(lè)觀的態(tài)度。而有的人卻充滿恐懼和悲觀的情緒。
不幸的是，其中也有很多討論過(guò)于抽象，導(dǎo)致人們的觀點(diǎn)互不接軌。因此，我總是在尋找具體的類比和歷史先例，用更具體的術(shù)語(yǔ)來(lái)探討這個(gè)主題。
特別是，當(dāng)我被問(wèn)及「你認(rèn)為 AGI 會(huì)是什么樣子」時(shí)，我個(gè)人喜歡用自動(dòng)駕駛舉例。在這篇文章中，我想解釋一下原因。讓我們從 AGI 的一個(gè)常見(jiàn)定義開(kāi)始：
AGI：一個(gè)在大多數(shù)有經(jīng)濟(jì)價(jià)值的工作中超越人類能力的自主系統(tǒng)。
請(qǐng)注意，在這個(gè) AGI 定義中有兩個(gè)具體要求。
首先，它是一個(gè)完全自主的系統(tǒng)，即自己運(yùn)作，很少或根本沒(méi)有人類監(jiān)督。
其次，它在大多數(shù)有經(jīng)濟(jì)價(jià)值的工作上都是自主運(yùn)作的。關(guān)于這部分?jǐn)?shù)據(jù)，我個(gè)人喜歡參考美國(guó)勞工統(tǒng)計(jì)局的職業(yè)指數(shù)。
一個(gè)同時(shí)具有這兩種性質(zhì)的系統(tǒng)，我們將其稱之為 AGI。
我想在這篇文章中建議的是，最近我們自動(dòng)駕駛能力的發(fā)展是一個(gè)非常好的早期案例，研究了日益自動(dòng)化的社會(huì)動(dòng)態(tài)，可以拓展到對(duì) AGI 的總體樣貌和感受的研究。
我這樣認(rèn)為的原因是，這個(gè)領(lǐng)域具有幾個(gè)特征?？梢院?jiǎn)單地說(shuō)「it is a big deal」：自動(dòng)駕駛對(duì)社會(huì)來(lái)說(shuō)非常容易理解，更常見(jiàn)。
它在經(jīng)濟(jì)規(guī)模上占據(jù)了很大一部分，并且雇傭了大量的人類勞動(dòng)力。駕駛是一個(gè)足夠復(fù)雜的問(wèn)題，但我們已經(jīng)實(shí)現(xiàn)自動(dòng)化，并引來(lái)社會(huì)的高度關(guān)注。
當(dāng)然，也還有其他的行業(yè)實(shí)現(xiàn)了大規(guī)模的自動(dòng)化，但要么是我個(gè)人對(duì)它們不太熟悉，要么它們?cè)谏鲜鲆恍傩苑矫嬗兴啡薄?/p>
L2 級(jí)自動(dòng)化
駕駛的自動(dòng)化被認(rèn)為是 AI 領(lǐng)域中一個(gè)極具挑戰(zhàn)的問(wèn)題，并非一蹴而就。
它是通過(guò)逐步將駕駛?cè)蝿?wù)自動(dòng)化的過(guò)程而成的，這個(gè)過(guò)程中涉及了許多階段性的「工具型 AI」。
在車(chē)輛自動(dòng)化方面，目前許多汽車(chē)已經(jīng)配備了 L2 級(jí)駕駛輔助系統(tǒng)。即一個(gè)能與人類司機(jī)協(xié)作，共同完成從起點(diǎn)到終點(diǎn)旅程的 AI。
雖然它還不能完全自主駕駛，但 L2 已經(jīng)能處理許多駕駛中的基礎(chǔ)任務(wù)。有時(shí)，它甚至能自動(dòng)完成整個(gè)操作流程，比如自動(dòng)泊車(chē)。
在這一過(guò)程中，人類主要扮演監(jiān)督角色，甚至可以隨時(shí)接手，直接駕駛或下達(dá)高級(jí)指令（如換道請(qǐng)求）。
在某些方面（比如保持車(chē)道居中和快速?zèng)Q策），AI 的表現(xiàn)甚至超過(guò)了人類，但在一些罕見(jiàn)的情況下還是會(huì)有所不足。
這與我們?cè)谄渌袠I(yè)看到的許多 AI 工具非常相似，特別是隨 LLM 最近的技術(shù)突破。
例如，作為程序員，當(dāng)我用 GitHub Copilot 來(lái)自動(dòng)補(bǔ)全一段代碼，或使用 GPT-4 編寫(xiě)更復(fù)雜的函數(shù)時(shí)，我實(shí)際上是將基礎(chǔ)任務(wù)交給了自動(dòng)化系統(tǒng).
但同樣，如有需要，我也可以隨時(shí)介入進(jìn)行調(diào)整。
換句話說(shuō)，Copilot 和 GPT-4 就像是在編程領(lǐng)域的「二級(jí)」自動(dòng)化工具。
在整個(gè)行業(yè)中，有許多類似的「二級(jí)」自動(dòng)化解決方案，但并不是所有的都基于大模型，從 TurboTax，到亞馬遜倉(cāng)庫(kù)中機(jī)器人，再到翻譯、寫(xiě)作、藝術(shù)、法律、營(yíng)銷(xiāo)等領(lǐng)域的各種「工具型 AI」。
全自動(dòng)駕駛
隨著時(shí)間的推移，一些系統(tǒng)的可靠性達(dá)到了新高度，變得就像今天的 Waymo 那樣。
它們正逐步實(shí)現(xiàn)「全自動(dòng)駕駛」。
如今，在舊金山，你只需打開(kāi)應(yīng)用，就能叫到一輛 Waymo 無(wú)人駕駛車(chē)，它將會(huì)來(lái)接你，并把你安全送達(dá)目的地。
這實(shí)在是令人驚嘆。你無(wú)需懂得駕駛，也無(wú)需關(guān)注路況，只需舒服地靠后坐，并小憩片刻，系統(tǒng)便會(huì)將你從起點(diǎn)帶到終點(diǎn)。
與我交談過(guò)的許多人一樣，我個(gè)人更傾向于選擇 Waymo 而非 Uber，我?guī)缀踔皇褂盟鼇?lái)進(jìn)行市內(nèi)交通。
你會(huì)擁有更穩(wěn)定、可預(yù)測(cè)的旅程體驗(yàn)，而且駕駛過(guò)程平穩(wěn)，可以聽(tīng)音樂(lè)，不用顧及司機(jī)在聽(tīng)你說(shuō)話時(shí)在想什么。
「復(fù)合經(jīng)濟(jì)」
雖然自動(dòng)駕駛技術(shù)已經(jīng)走入現(xiàn)實(shí)，但仍有許多人選擇使用 Uber。原因何在？
首先，很多人根本不知道他們可以選擇 Waymo 作為出行工具。即便知道，許多人對(duì)自動(dòng)化系統(tǒng)仍缺乏足夠的信任，更傾向于由人類司機(jī)駕駛。
不過(guò)，即使有些人接受自動(dòng)駕駛，或許他們還是更傾向于人類司機(jī)，比如享受與司機(jī)的交談，以及與他人的互動(dòng)。
不僅僅是個(gè)人偏好，從現(xiàn)在應(yīng)用中不斷增長(zhǎng)的等待時(shí)間可以看出，Waymo 面臨著供不應(yīng)求的問(wèn)題。市場(chǎng)上的車(chē)輛數(shù)量遠(yuǎn)遠(yuǎn)無(wú)法滿足需求。
這部分原因可能是，Waymo 在管理和監(jiān)測(cè)風(fēng)險(xiǎn)和輿論方面非常謹(jǐn)慎。
另一方面，據(jù)我所知，Waymo 受到監(jiān)管機(jī)構(gòu)的限制，只能在街道上部署一定數(shù)量的車(chē)輛。另一個(gè)限制因素是，Waymo 不能一夜之間就完全取代 Uber。
他們需要建立基礎(chǔ)設(shè)施，生產(chǎn)汽車(chē)，擴(kuò)大運(yùn)營(yíng)規(guī)模。
我個(gè)人認(rèn)為，其他經(jīng)濟(jì)領(lǐng)域的自動(dòng)化也將面臨同樣的情況 —— 有些人 / 公司會(huì)立即采用它們，但許多人（1）不了解這些技術(shù)，（2）即便了解，也不會(huì)信任它們，（3）即使信任，他們?nèi)匀桓敢馀c人類合作。
但除此之外，需求超過(guò)供應(yīng)，AGI 也將因?yàn)橥瑯拥脑蚴艿酵瑯拥南拗?，包括開(kāi)發(fā)商的自我約束、監(jiān)管限制以及資源短缺，比如需要建立更多的 GPU 數(shù)據(jù)中心。
技術(shù)全球化
正如我已經(jīng)在資源限制中暗示的那樣，這種技術(shù)的全球化部署成本非常高，還需要耗費(fèi)大量人力，推廣速度也慢。
今天，Waymo 只能在舊金山和鳳凰城駕駛，但這種技術(shù)本身是通用的，還可以擴(kuò)展，因此該公司可能很快就會(huì)推廣到洛杉磯、奧斯汀等地。
自動(dòng)駕駛汽車(chē)還可能會(huì)受到其他環(huán)境因素的限制，比如在大雪中駕駛。在一些罕見(jiàn)的情況下，它甚至可能需要操作員的救援。
此外，技術(shù)能力的擴(kuò)展還需要很多資源成本，并非是免費(fèi)的。
比如，Waymo 必須投入資源后才能進(jìn)入另一個(gè)城市，比如繪制街道地圖、整體感知路徑規(guī)劃、控制算法以適應(yīng)某些特殊情況，或當(dāng)?shù)氐姆ㄒ?guī)。
就像我們的工作比喻所示，許多工作可能只在某些特定環(huán)境下才能實(shí)現(xiàn)自動(dòng)化，若是擴(kuò)大范圍還需要大量的工作。
無(wú)論哪種情況，自動(dòng)駕駛技術(shù)本身都是通用的和可擴(kuò)展的，其應(yīng)用前景將隨著時(shí)間的推移而逐步拓寬。
社會(huì)反應(yīng)：很快成為「過(guò)眼云煙」
關(guān)于自動(dòng)駕駛技術(shù)逐漸融入社會(huì)的過(guò)程，我覺(jué)得特別有趣的一點(diǎn)是 ——
就在幾年前，人們還在熱烈討論并對(duì)其充滿了疑慮和擔(dān)憂，爭(zhēng)論著它是否能夠成功運(yùn)作，甚至是否可行，這成了一個(gè)廣泛關(guān)注的議題。而現(xiàn)在，自動(dòng)駕駛不再是未來(lái)的夢(mèng)想，它真的出現(xiàn)了。
它不僅僅是一個(gè)研究原型，而是成為了一種可以用金錢(qián)購(gòu)買(mǎi)的完全自動(dòng)化交通方式。
在目前的應(yīng)用范圍內(nèi)，自動(dòng)駕駛技術(shù)已經(jīng)實(shí)現(xiàn)了完全的自主性。
然而，總體來(lái)看，這似乎并沒(méi)有引起太多人的關(guān)注。我交流過(guò)的大多數(shù)人（包括科技領(lǐng)域的！）甚至都不知道這一進(jìn)展。
當(dāng)你乘坐 Waymo 在舊金山的街道上行駛時(shí)，你會(huì)發(fā)現(xiàn)很多人對(duì)它投以好奇的目光。他們首先會(huì)感到驚訝，然后好奇地凝視。之后，他們就會(huì)繼續(xù)自己的生活。
當(dāng)自動(dòng)駕駛技術(shù)在其他行業(yè)也實(shí)現(xiàn)完全自主時(shí)，世界可能并不會(huì)因此而動(dòng)蕩不安。
大多數(shù)人可能一開(kāi)始，甚至都沒(méi)意識(shí)到這一變化。當(dāng)他們注意到時(shí)，可能只是好奇地看一眼，然后不以為意，這種反應(yīng)從否認(rèn)到接受都有。
有些人可能會(huì)因此感到不安，甚至采取一些抗議行動(dòng)，比如向 Waymo 汽車(chē)前放置交通錐這樣的舉動(dòng)。
當(dāng)然，到目前為止，我們距離見(jiàn)證這一現(xiàn)象完全上演還很遙遠(yuǎn)。但當(dāng)它發(fā)生時(shí)，我期望它在很大程度上具有預(yù)測(cè)性。
經(jīng)濟(jì)影響
當(dāng)我們討論就業(yè)時(shí)，不可否認(rèn)，Waymo 明顯地取代了駕駛員的崗位。
但同時(shí)，它也催生了許多以前不存在的工作崗位，這些崗位相對(duì)不那么顯眼 —— 比如為神經(jīng)網(wǎng)絡(luò)收集訓(xùn)練數(shù)據(jù)的標(biāo)注人員、遠(yuǎn)程協(xié)助遇到問(wèn)題汽車(chē)的客服人員、負(fù)責(zé)建造和維護(hù)車(chē)隊(duì)的工作人員等等。
首先誕生的是一個(gè)包含各種傳感器和相關(guān)基礎(chǔ)設(shè)施的全新行業(yè)，旨在構(gòu)建這些裝備精密的高科技汽車(chē)。
正如人們對(duì)工作的普遍看法一樣，許多崗位都將發(fā)生改變，一些崗位會(huì)因此消失，但也會(huì)出現(xiàn)很多新的崗位。
這其實(shí)是工作形態(tài)的一種轉(zhuǎn)變，而非簡(jiǎn)單的崗位減少，盡管崗位減少是最直觀的變化。
雖然很難說(shuō)總體就業(yè)人數(shù)不會(huì)隨著時(shí)間推移而減少，但這種變化的速度比人們簡(jiǎn)單預(yù)想的要慢得多。
競(jìng)爭(zhēng)環(huán)境
最后，我想談?wù)勛詣?dòng)駕駛領(lǐng)域的競(jìng)爭(zhēng)環(huán)境。
幾年前，自動(dòng)駕駛汽車(chē)公司如雨后春筍般涌現(xiàn)。但今天，隨著人們逐漸意識(shí)到這項(xiàng)技術(shù)的復(fù)雜性（我個(gè)人認(rèn)為，基于當(dāng)前的人工智能和計(jì)算技術(shù)，實(shí)現(xiàn)自動(dòng)化仍然十分困難），這個(gè)領(lǐng)域已經(jīng)經(jīng)歷了大規(guī)模的整合。
其中，Waymo 成為了首個(gè)完整展示自動(dòng)駕駛未來(lái)的公司。
盡管如此，還有一些公司仍在緊追不舍，比如 Cruise、Zoox，以及我個(gè)人特別喜歡的 Tesla。
這里我要簡(jiǎn)單提一下，基于我在這個(gè)領(lǐng)域的經(jīng)歷和參與。在我看來(lái)，自動(dòng)駕駛行業(yè)的終極目標(biāo)是實(shí)現(xiàn)全球范圍內(nèi)的完全自動(dòng)駕駛。
Waymo 選擇了先實(shí)現(xiàn)自動(dòng)駕駛再全球擴(kuò)展的策略，而 Tesla 則是先全球布局再逐步提升自動(dòng)駕駛技術(shù)。
顯然，這兩家公司將會(huì)面臨截然不同的調(diào)整：一家主要是軟件方面的工作，另一家則是硬件方面的工作。
目前，我對(duì)他們的產(chǎn)品都非常滿意，個(gè)人而言，我更是對(duì)技術(shù)本身充滿了支持。
同樣的，很多其他行業(yè)也可能經(jīng)歷一個(gè)快速增長(zhǎng)和擴(kuò)張的階段（就像大約在 2015 年的自動(dòng)駕駛領(lǐng)域），但最終，可能只有少數(shù)幾家公司在這場(chǎng)競(jìng)爭(zhēng)中存活下來(lái)。
在這個(gè)過(guò)程中，將會(huì)有許多實(shí)用的 AI 輔助工具（比如現(xiàn)在的 L2 ADAS 功能）和一些開(kāi)放平臺(tái)（比如 Comma）得到廣泛應(yīng)用。
通用人工智能（AGI）
以上就是我對(duì)通用人工智能（AGI）未來(lái)發(fā)展的大致設(shè)想。
想象一下，這樣的變革將以不同的速度遍布整個(gè)經(jīng)濟(jì)體，并伴隨著許多難以預(yù)料的相互影響及連鎖反應(yīng)。
雖然這個(gè)設(shè)想可能不盡完美，但我認(rèn)為它是一個(gè)值得記住并有益參考的模型。
從模因（memetic）的角度來(lái)看，AGI 與那種逃離我們控制、在網(wǎng)絡(luò)空間自我遞歸提升、制造致命病原體或納米機(jī)器人、最終把銀河系變?yōu)榛疑迟|(zhì)的超級(jí)智能相去甚遠(yuǎn)。
相比之下，它更像是自動(dòng)駕駛技術(shù)的發(fā)展 —— 一項(xiàng)正在快速推進(jìn)且能改變社會(huì)的自動(dòng)化技術(shù)。其發(fā)展速度會(huì)在包括受教育的勞動(dòng)力資源、信息、材料、能源，以及監(jiān)管等多個(gè)方面受到限制。
在這之中，社會(huì)既是觀察者也是參與者。
世界不會(huì)因此崩潰，而是會(huì)適應(yīng)、變化并重新構(gòu)建。
就自動(dòng)駕駛本身而言，交通自動(dòng)化將大大提升安全性，城市將變得更加清新、通暢，而那些占據(jù)道路兩旁的停車(chē)場(chǎng)和停放的汽車(chē)將逐漸消失，從而讓出更多的空間。
對(duì)于通用人工智能（AGI）帶來(lái)的所有這些可能的變革，我個(gè)人是充滿期待的。
網(wǎng)友熱議
總而言之，Karpathy 將 AGI 看作更像是自動(dòng)駕駛的發(fā)展，這一具體類比的觀點(diǎn)，引發(fā)了眾多網(wǎng)友的討論。
「看到那個(gè)無(wú)法交付 FSD 的人，決定將 FSD 與 AGI 進(jìn)行類比，實(shí)際上確實(shí)給了我信心，我們還有幾十年的時(shí)間」。
是啊，他好像忘記了「G」。我記得 Norvig 在幾十年前的人工智能著作中曾說(shuō)過(guò)，「智能」并不意味著無(wú)所不能，一個(gè)智能體要想有用，解決一個(gè)小問(wèn)題就足夠了。在我看來(lái)，這就是 G 的由來(lái)。
而我們現(xiàn)在卻突然又回到了以前那個(gè)狹隘的定義？我仍然看不到從 LLM 和自動(dòng)駕駛到 AGI 的路徑。
當(dāng)然，AGI 的發(fā)展可能是漸進(jìn)而緩慢的，就像我們看到 Waymo 打造自動(dòng)駕駛汽車(chē)一樣。但這只是眾多方式中的一種，你也可以看到 AGI 通過(guò)非常不同的方式突然出現(xiàn)，就像通過(guò)擴(kuò)展大規(guī)模 LLM 那樣。
參考資料：
https://web.archive.org/web/20240122062223/https://karpathy.github.io/2024/01/21/selfdriving-agi/
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。