Karpathy 認(rèn)為，AI 智能體代表了 AI 的一種未來，它的發(fā)展需要從神經(jīng)科學(xué)中汲取靈感，鼓勵(lì) AI 智能體領(lǐng)域的研究者再接再厲。
近日，OpenAI 聯(lián)合創(chuàng)始人，曾經(jīng) TeslaAI 總監(jiān)，現(xiàn)在又重新返回 OpenAI 的 Andrej Karpathy 在一個(gè)開發(fā)者活動上，分享了自己對于 AI 智能體的看法。
7 年前，研究 AI 智能體的時(shí)機(jī)還不成熟
他先聊到了自己早期在 OpenAI 工作時(shí)（2016 年左右），當(dāng)時(shí)的業(yè)界潮流就是研究如何用強(qiáng)化學(xué)習(xí)的方法來改進(jìn) AI 智能體。
很多項(xiàng)目都在基于類似雅達(dá)利游戲來制作 AI 玩家。
當(dāng)時(shí)他本人想做的是一個(gè)適用范圍更廣泛的產(chǎn)品。
但是因?yàn)楫?dāng)時(shí)的技術(shù)所限，做出來的效果不好，于是他和 OpenAI 就改變了方向，開始做大語言模型了。
當(dāng)然，這期間我被自動駕駛分了心。
但是 5 年之后的現(xiàn)在，AI 智能體重新成為了一個(gè)非常有前途的方向。
因?yàn)楝F(xiàn)在有了全新的技術(shù)手段來研究 AI 智能體，情況和 2016 年完全不同了。
最簡單的例子就是，現(xiàn)在沒有人再像 2016 年那樣用強(qiáng)化學(xué)習(xí)的方法來研究 AI 智能體了。
現(xiàn)在的研究方法和方向在當(dāng)年是不可想象的。
AI 智能體代表著一個(gè)瘋狂的未來，雖然可能還有點(diǎn)遠(yuǎn)
因?yàn)樵谖磥?，如?AGI 能夠出現(xiàn)，將會充分發(fā)揮 AI 智能體的能力。
未來的 AI 智能體可能不是單獨(dú)的個(gè)體，而是會出現(xiàn)非常多的 AI 智能體組織，甚至是 AI 智能體文明。
這可能是一個(gè)讓人非常興奮，甚至是瘋狂的未來。
但同時(shí)大家也要保持清醒和冷靜。
因?yàn)橐恍┘夹g(shù)趨勢方向可能很容易構(gòu)想，展望出來，但是要做成產(chǎn)品落地卻很難。
很多技術(shù)都屬于這種類型，比如自動駕駛就是這樣。
技術(shù)遠(yuǎn)景很容易設(shè)想出來，汽車在街區(qū)行駛的演示也很容易做出來，但是做出產(chǎn)品可能需要 10 年時(shí)間。
同樣，VR 也是這樣的情況。
AI 智能體可能也屬于這一類技術(shù)，應(yīng)用場景很容易想象，前景讓人興奮，但是需要長期的技術(shù)發(fā)展和積累。
AI 智能體需要從神經(jīng)科學(xué)中汲取靈感
就像深度學(xué)習(xí)早期的發(fā)展一樣，AI 智能體的發(fā)展可能會從神經(jīng)科學(xué)中獲得啟發(fā)。
思考 AI 智能體和神經(jīng)科學(xué)的關(guān)系是很有意思的。
尤其是現(xiàn)在很多人都把大語言模型作為 AI 智能體解決方案的一部分。
但是如何構(gòu)建一個(gè)完整的，擁有人類所有認(rèn)知能力的數(shù)字實(shí)體呢？
顯然，我們都認(rèn)為需要某種潛在的系統(tǒng)來規(guī)劃、思考和反思我們在做的事情。
這可能就是神經(jīng)科學(xué)能發(fā)揮作用的地方。
舉個(gè)例子，海馬體是大腦非常重要的部分。
但是 AI 智能體中什么東西發(fā)揮著海馬體的作用，來存儲記憶，實(shí)現(xiàn)標(biāo)記和檢索等等的這些功能呢？
我們大致已經(jīng)了解如何構(gòu)建視覺和聽覺皮層，但還有許多的東西我們并不知道在 AI 智能體中到底意味著什么。
比如潛意識的所在地 —— 丘腦在 AI Agents 中又相當(dāng)于什么呢？
這些都是非常有趣的問題。
我專門帶了一本神經(jīng)科學(xué)方面的書，是有 David Eagleman 的《大腦與行為》，我發(fā)現(xiàn)這本書非常有趣，很有啟發(fā)性。
就像早期 AI 研究在設(shè)計(jì)神經(jīng)元時(shí)所做的那樣，從神經(jīng)科學(xué)中汲取有趣的靈感，也許是我們應(yīng)該重新嘗試的方向。
在座的大家就是行業(yè)的最前沿
可能大家不一定知道，但是今天到場的大家構(gòu)建的 AI 智能體已經(jīng)處于 AI 智能體能力的最前沿。
現(xiàn)在所有正在做大語言模型的機(jī)構(gòu)，比如 OpenAI 等，我覺得都沒有處于這個(gè)領(lǐng)域的最前沿。
最前沿的是在座的各位。
舉個(gè)例子，OpenAI 非常擅長訓(xùn)練 Transformer 語言模型。
如果某篇論文提出了一種不同的訓(xùn)練方法，那么我們 OpenAI 內(nèi)部的 Slack 群組里大家會討論說:
「這個(gè)辦法我兩年半前嘗試過，沒什么用?！?/p>
我們對訓(xùn)練模型的方法的來龍去脈是很清楚的。
但是對于 AI 智能體的論文出來的時(shí)候，我們所有人都會很感興趣，會覺得很了不起。
因?yàn)槲覀兊膱F(tuán)隊(duì)最近 5 年的時(shí)間花在了別的地方。
在這個(gè)領(lǐng)域內(nèi)我們沒有比你們懂得更多，我們和大家站在同一競爭的水平線上。
這就是我覺得在座的各位處于 AI 智能體最前沿的原因，這一點(diǎn)對于 AI 智能體的發(fā)展是非常重要的。
參考資料：
https://twitter.com/gptdaocn/status/1673781206121578498
本文來自微信公眾號：新智元 （ID：AI_era）
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。