Karpathy 認為，AI 智能體代表了 AI 的一種未來，它的發(fā)展需要從神經(jīng)科學中汲取靈感，鼓勵 AI 智能體領域的研究者再接再厲。
近日，OpenAI 聯(lián)合創(chuàng)始人，曾經(jīng) TeslaAI 總監(jiān)，現(xiàn)在又重新返回 OpenAI 的 Andrej Karpathy 在一個開發(fā)者活動上，分享了自己對于 AI 智能體的看法。
7 年前，研究 AI 智能體的時機還不成熟
他先聊到了自己早期在 OpenAI 工作時（2016 年左右），當時的業(yè)界潮流就是研究如何用強化學習的方法來改進 AI 智能體。
很多項目都在基于類似雅達利游戲來制作 AI 玩家。
當時他本人想做的是一個適用范圍更廣泛的產(chǎn)品。
但是因為當時的技術所限，做出來的效果不好，于是他和 OpenAI 就改變了方向，開始做大語言模型了。
當然，這期間我被自動駕駛分了心。
但是 5 年之后的現(xiàn)在，AI 智能體重新成為了一個非常有前途的方向。
因為現(xiàn)在有了全新的技術手段來研究 AI 智能體，情況和 2016 年完全不同了。
最簡單的例子就是，現(xiàn)在沒有人再像 2016 年那樣用強化學習的方法來研究 AI 智能體了。
現(xiàn)在的研究方法和方向在當年是不可想象的。
AI 智能體代表著一個瘋狂的未來，雖然可能還有點遠
因為在未來，如果 AGI 能夠出現(xiàn)，將會充分發(fā)揮 AI 智能體的能力。
未來的 AI 智能體可能不是單獨的個體，而是會出現(xiàn)非常多的 AI 智能體組織，甚至是 AI 智能體文明。
這可能是一個讓人非常興奮，甚至是瘋狂的未來。
但同時大家也要保持清醒和冷靜。
因為一些技術趨勢方向可能很容易構想，展望出來，但是要做成產(chǎn)品落地卻很難。
很多技術都屬于這種類型，比如自動駕駛就是這樣。
技術遠景很容易設想出來，汽車在街區(qū)行駛的演示也很容易做出來，但是做出產(chǎn)品可能需要 10 年時間。
同樣，VR 也是這樣的情況。
AI 智能體可能也屬于這一類技術，應用場景很容易想象，前景讓人興奮，但是需要長期的技術發(fā)展和積累。
AI 智能體需要從神經(jīng)科學中汲取靈感
就像深度學習早期的發(fā)展一樣，AI 智能體的發(fā)展可能會從神經(jīng)科學中獲得啟發(fā)。
思考 AI 智能體和神經(jīng)科學的關系是很有意思的。
尤其是現(xiàn)在很多人都把大語言模型作為 AI 智能體解決方案的一部分。
但是如何構建一個完整的，擁有人類所有認知能力的數(shù)字實體呢？
顯然，我們都認為需要某種潛在的系統(tǒng)來規(guī)劃、思考和反思我們在做的事情。
這可能就是神經(jīng)科學能發(fā)揮作用的地方。
舉個例子，海馬體是大腦非常重要的部分。
但是 AI 智能體中什么東西發(fā)揮著海馬體的作用，來存儲記憶，實現(xiàn)標記和檢索等等的這些功能呢？
我們大致已經(jīng)了解如何構建視覺和聽覺皮層，但還有許多的東西我們并不知道在 AI 智能體中到底意味著什么。
比如潛意識的所在地 —— 丘腦在 AI Agents 中又相當于什么呢？
這些都是非常有趣的問題。
我專門帶了一本神經(jīng)科學方面的書，是有 David Eagleman 的《大腦與行為》，我發(fā)現(xiàn)這本書非常有趣，很有啟發(fā)性。
就像早期 AI 研究在設計神經(jīng)元時所做的那樣，從神經(jīng)科學中汲取有趣的靈感，也許是我們應該重新嘗試的方向。
在座的大家就是行業(yè)的最前沿
可能大家不一定知道，但是今天到場的大家構建的 AI 智能體已經(jīng)處于 AI 智能體能力的最前沿。
現(xiàn)在所有正在做大語言模型的機構，比如 OpenAI 等，我覺得都沒有處于這個領域的最前沿。
最前沿的是在座的各位。
舉個例子，OpenAI 非常擅長訓練 Transformer 語言模型。
如果某篇論文提出了一種不同的訓練方法，那么我們 OpenAI 內部的 Slack 群組里大家會討論說:
「這個辦法我兩年半前嘗試過，沒什么用?！?/p>
我們對訓練模型的方法的來龍去脈是很清楚的。
但是對于 AI 智能體的論文出來的時候，我們所有人都會很感興趣，會覺得很了不起。
因為我們的團隊最近 5 年的時間花在了別的地方。
在這個領域內我們沒有比你們懂得更多，我們和大家站在同一競爭的水平線上。
這就是我覺得在座的各位處于 AI 智能體最前沿的原因，這一點對于 AI 智能體的發(fā)展是非常重要的。
參考資料：
https://twitter.com/gptdaocn/status/1673781206121578498
本文來自微信公眾號：新智元 （ID：AI_era）
廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。