【新智元導讀】OpenAI 首席科學家在最近的專訪中拋出了很多驚人言論。在他看來，ChatGPT 背后的神經(jīng)網(wǎng)絡已經(jīng)產(chǎn)生了意識，而且未來人類會與人工智能融合起來，出現(xiàn)新的形態(tài)。而他現(xiàn)在工作的重點，已經(jīng)不是去創(chuàng)建那個必然會出現(xiàn)的通用人工智能，而是解決如何讓 AI 善待人類的問題。
昨晚，「ChatGPT 可能已經(jīng)有了意識」的話題就上了微博熱搜。
OpenAI 的聯(lián)合創(chuàng)始人兼首席科學家 Ilya Sutskever 在接受采訪時表示，現(xiàn)在的首要任務已經(jīng)不是制作下一個 GPT 或 DALL?E，而是研究如何阻止超級 AI 的失控！
他認為，ChatGPT 可能已經(jīng)有意識，未來超級 AI 將會成為一種潛在風險。
而且未來人類，將會與機器融為一體。
而他自己未來在 OpenAI 工作的重點，已不是開發(fā)更為強大的 AI 系統(tǒng)，而是要帶領「超級對齊」團隊，為人類與 AI 共生的世界，保駕護航。
某種程度上，這才是回歸到 OpenAI 成立的初心 —— 確保 AI 能為人類服務。
OpenAI 的幕后英雄 ——Ilya Sutskever
在舊金山 Mission 區(qū)一條不起眼的街道上，OpenAI 的聯(lián)合創(chuàng)始人兼首席科學家 Sutskever 在公司一棟不起眼的辦公樓里完成了這次訪談。
他談了很多關于顛覆世界技術的下一步發(fā)展，以及為什么構建 OpenAI 的下一代生成模型不再是他工作的重點。
Sutskever 說，他的工作重心已經(jīng)不是構建下一代 GPT 或 DALL-E，而是找出如何阻止人工智能（他認為不是目前的 AI，而是一種假想的未來技術，能夠全面超越人類智能的 AI）的失控。
在他看來，有一天很多人類會選擇與機器融合為一體。
Sutskever 的談話內容很多聽起來都很瘋狂，但已經(jīng)比前兩年他說過的話聽起來「理智」多了。
因為他覺得，ChatGPT 已經(jīng)改變了很多人對技術的期望，將很多在普通人看來「永遠不會發(fā)生」的事變成了「會比你想象的更快發(fā)生」。
在預測通用人工智能（他指的是像人類一樣聰明的機器）的發(fā)展之前，他說：「重要的是，現(xiàn)在這個發(fā)展方向已經(jīng)出現(xiàn)了」，「人類在某個時間點一定會擁有 AGI。也許 OpenAI 會構建它。也許其他公司會建造它?！?/p>
OpenAI 的首席執(zhí)行官 Sam Altman 在夏天的大部分時間都在環(huán)球訪問，熱情地與政客們打交道，并在世界各地擠滿人的禮堂發(fā)表演講。
不過 Sutskever 并不是一個公眾人物，他也不接受太多采訪。
他說話時從容、有條理。當他思考自己想說的內容以及如何表達時，他會停頓很長時間，像解謎一樣翻來覆去地思考問題。
他似乎對談論自己不感興趣。「我過著非常簡單的生活，」他說?！肝疑习?，然后回家。我不太做太多其他事情。有人會參加很多社交活動。但我不會。」
但當聊到人工智能，以及他在技術背后看到的劃時代的風險和回報時，他就變得非常健談「這將是具有里程碑意義的、驚天動地的，它的出現(xiàn)會改變一切?！?/p>
年輕的 AI 研究人員如何改變了這個世界
Sutskever 是圖靈獎得主 Hinton 的學生，在他 2000 年拜入 Hinton 門下之時，大多數(shù) AI 研究人員認為神經(jīng)網(wǎng)絡是死路一條。
但 Hinton 不這么認為。他當時已經(jīng)開始訓練微型模型，這些模型可以一次生成一個字符的短文本字符串。
Sutskever 說：「這就是生成式人工智能的開始。這真的很酷 —— 只是性能還很一般。」
和 Hinton 一樣，他看到了神經(jīng)網(wǎng)絡和深度學習的潛力的。
2012 年，Sutskever、Hinton 和 Hinton 的另一位研究生 Alex Krizhevsky 構建了一個名為 AlexNet 的神經(jīng)網(wǎng)絡，他們訓練該網(wǎng)絡來識別照片中的物體，其效果遠遠好于當時的任何其他軟件，這成為了深度學習的大爆炸時刻。
英偉達的黃老板說，當多倫多團隊研究 AlexNet 時，英偉達向多倫多團隊提供了一些 GPU。
但他們想要最新版本 ——GTX 580 的芯片，不過這款芯片當時一直處于脫銷狀態(tài)，幾乎買不到。
黃老板說，Sutskever 開車從多倫多去到了紐約居然買到一車 GTX580。
「我不知道他是怎么做到的 —— 我很確定用戶每人只能買一個。我們有一個非常嚴格的銷售政策，每個玩家只能買一個 GPU，但他顯然裝滿了整個后備箱。
但這個裝滿 GTX 580 的后備箱改變了世界?！?/p>
AlexNet 取得成功后，谷歌找上門來。它收購了 Hinton 的公司 DNNresearch，并邀請了 Sutskever 加入谷歌。
Sutskever 在谷歌展示了深度學習的模式識別能力可以應用于數(shù)據(jù)序列，例如單詞、句子以及圖像。
「Sutskever 一直對語言很感興趣，」他的前同事、現(xiàn)任谷歌首席科學家 Jeff Dean 說，「多年來我們進行了很多討論。Sutskever 對技術的發(fā)展有很強的直覺?！?/p>
但 Sutskever 并沒有在谷歌呆太久。2014 年，他被招募成為 OpenAI 的聯(lián)合創(chuàng)始人。
在 10 億美元的支持下，這家新公司從一開始就將目標設定為開發(fā) AGI，但當時，很少有人真的認為這目標能很快達到。
但 Sutskever 加入后，設定這樣的目標似乎就變得合理了起來。
「Y Combinator 」投資董事總經(jīng)理 Dalton Caldwell 表示，Sutskever 早就名聲在外了。
「我記得 Sam Altman 稱 Sutskever 為世界上最受尊敬的研究人員之一，」Caldwell 說?！杆J為 Sutskever 能夠吸引很多頂尖的人工智能人才加入。
他甚至提到，Yoshua Bengio 認為，不太可能找到比 Sutskever 更好的候選人來擔任 OpenAI 的首席科學家?！?/p>
OpenAI 的第一個大語言模型在 2016 年問世。隨后又接著推出了 GPT-2 和 GPT-3，然后是 DALL-E。
沒有人建造出如此好的東西。每一次發(fā)布新產(chǎn)品，OpenAI 都提高了人們對 AI 可能性的認知上限。
Ilya：我們一開始覺得 ChatGPT 應該沒什么人會用
去年 11 月，OpenAI 發(fā)布了 ChatGPT，重新包裝了現(xiàn)有技術，直接顛覆了整個行業(yè)。
但是當時，OpenAI 并沒有意識到這一切。
Sutskever 表示，公司內部的期望已經(jīng)低得不能再低了，「我承認，這讓我有點尷尬 —— 我不知道我是否應該說出來，但管他呢，事實就是這樣 —— 當我們制作 ChatGPT 時，我并不覺得這個東西到底有啥好的。
當你問它一個事實問題時，它會給你一個錯誤的答案。我認為這應該不會有什么人用。人們會說，你為什么要做這種東西，這東西很無聊！」
Sutskever 說，ChatGPT 最吸引人的地方就是方便 —— 那時候，ChatGPT 背后的大型語言模型已經(jīng)存在了幾個月了。
但將它包裝在一個易于訪問的界面中，并免費讓所有人用，讓數(shù)十億人第一次意識到 OpenAI 和正在構建一個什么產(chǎn)品，這還是第一次。
「第一次的體驗真的讓人著迷，」Sutskever 說?！府斈愕谝淮问褂盟鼤r，我覺得幾乎是一種通靈一樣的體驗。你會說：天哪，這臺計算機似乎能理解我在說什么。」
OpenAI 在不到兩個月的時間里就積累了 1 億用戶，其中許多人都被這個令人驚嘆的新玩具弄得眼花繚亂。
存儲公司 Box 的首席執(zhí)行官 Aaron Levie 在推特上總結了 ChatGPT 發(fā)布后一周后整個行業(yè)的氛圍：
「ChatGPT 是技術領域罕見的時刻之一，在這里你可以看到未來一切都將被顛覆的那一線曙光?！?/p>
「AGI 在機器學習領域不再是一個貶義詞，」他說，「這是一個很大的變化。人們之前的態(tài)度是：人工智能沒啥用，每一步都非常困難，道路會非常曲折。
當人們炒作 AGI 時，AI 研究人員會說 —— 問題太多了，很多問題解決不了。但有了 ChatGPT，感覺就開始不一樣了?！?/p>
這種轉變在一年前才開始發(fā)生？「這一切的發(fā)生都是因為 ChatGPT，」他說?！窩hatGPT 讓機器學習研究人員得以實現(xiàn)自己的夢想。」
而 OpenAI 的科學家從一開始就是布道者，他們一直通過博客文章和巡回演講來激發(fā)這些夢想。
「現(xiàn)在終于有人在談論人工智能將走多遠了 —— 人們在談論 AGI，或者說超級智能?！共粌H僅是研究人員。「各國政府正在討論這個問題，」Sutskever 說?！高@很瘋狂?！?/p>
神經(jīng)網(wǎng)絡可以產(chǎn)生意識
Sutskever 堅持認為，所有這些關于還不存在（也可能永遠不會存在）的技術的討論是一件好事，因為它讓更多的人意識到那些他們自己已經(jīng)認為是理所當然的未來。
「你可以用 AGI 做很多令人驚奇的事情，不可思議的事情：自動化醫(yī)療保健，使其便宜一千倍，效果好一千倍，治愈如此多的疾病，真正解決全球變暖問題，」他說?！傅灿泻芏嗳藫模骸彀。珹I 公司能成功管理這項巨大的技術嗎？’」
這樣看來，AGI 聽起來更像是一個實現(xiàn)愿望的精靈，而不是現(xiàn)實世界中將要發(fā)生的事情。你可以對它許下任何你的愿望。
當 Sutskever 談論 AGI 時，他到底在談論什么？「AGI 并不是一個科學術用語，」他說。「它是一個有用的門檻標準，一個參考點?！?/p>
在他看來「如果人類可以做到的事，AI 也可以做到，那這就是 AGI?！?/p>
雖然很多研究人員不相信真的會有 AGI，但是這個愿景一直激勵著 Sutskever。
他將神經(jīng)網(wǎng)絡和大腦的運作方式進行了比較。兩者都接收數(shù)據(jù)，聚合來自該數(shù)據(jù)的信號，然后基于一些簡單的過程來決定（神經(jīng)網(wǎng)絡中的數(shù)學、大腦中的化學物質和生物電）傳播或不傳播這些信號。
雖然這個比喻簡化了很多細節(jié)，但核心就是這樣。
「如果你相信這一點 —— 如果你允許自己相信這一點 —— 那么就會產(chǎn)生很多有趣的衍生想法，」Sutskever 說。
「如果你有一個非常大的人工神經(jīng)網(wǎng)絡，它應該做很多事情。如果人腦可以做某事，那么大型人工神經(jīng)網(wǎng)絡也可以做類似的事情?！?/p>
「如果你足夠認真地意識到到這一點，那么一切都會水到渠成，」他說?！肝业拇蟛糠止ぷ鞫伎梢杂眠@句話這個來解釋?！?/p>
2022 年 2 月，Sutskever 發(fā)帖稱，「今天的大型神經(jīng)網(wǎng)絡可能具有輕微的意識」
（谷歌 DeepMind 首席科學家、倫敦帝國理工學院教授、電影《機械姬》的科學顧問 Murray Shanahan 在下面回復到「你這好像是在說，這一大片麥田里已經(jīng)有了輕微的蘭州拉面」）。
解決一個還不存在的問題 ——「超級通用人工智能」
當其他人苦苦思索如何讓機器能夠與人類智能相媲美時，Sutskever 卻在為能夠超越人類能力的機器做準備了。
他將這種現(xiàn)象稱為超級人工智能：「他們會更深入地看待事物。他們會看到我們看不到的東西。」
他所說的比人類聰明的智能是什么意思？
「我們在 AlphaGo 中看到了一個的超級智能的影子，」他說。
2016 年，DeepMind 的下棋人工智能以 4-1 擊敗了世界上最好的圍棋棋手之一李世石。
「它弄清楚了如何以不同于人類方式下圍棋」Sutskever 說?！杆岢隽巳碌南敕??！?/p>
Sutskever 提到了 AlphaGo 最有名的第 37 步棋。在與李世石的第二場比賽中，人工智能的一步棋讓評論員感到困惑。
他們認為 AlphaGo 下了一步昏招。但事實上，它下了棋史上從未見過的一步制勝棋。
「想象一下這種程度的洞察力，出現(xiàn)在社會所有領域時會發(fā)生什么」Sutskever 說。
這個想法導致 Sutskever 做出了他職業(yè)生涯中最大的轉變。
他與 OpenAI 的科學家同事 Jan Leike 一起成立了一個團隊，專注于他們所謂的「超級對齊」。
對齊意思是讓人工智能模型做你想做的事，僅此而已。
「超級對齊」是 OpenAI 自己提出的概念，意思是控制超級智能做人類想讓它做的事情。
OpenAI 的目標是提出一套用于構建和控制這種未來技術的故障安全程序。OpenAI 表示將分配其計算資源的五分之一來解決該問題，希望能在四年內解決它。
「現(xiàn)有的對齊方法不適用于比人類更聰明的模型，因為它們從根本上假設人類可以可靠地評估人工智能系統(tǒng)正在做什么，」Jan Leike 說，「隨著人工智能系統(tǒng)變得更加強大，它們將承擔更艱巨的任務。」
這將使人類更難評估它們。
「在與 Ilya 一起組建超級對齊團隊時，我們已經(jīng)著手解決這些未來的對齊挑戰(zhàn)，」他說。
谷歌首席科學家 Dean 表示：「不僅要關注大型語言模型的潛在機遇，還要關注其風險和缺點，這一點非常重要?！?/p>
對于 Sutskever 來說，「超級對齊」遲早要做的事情?！高@是一個未解決的問題，」他說。
他認為，像他這樣的核心機器學習研究人員正在致力于解決這個問題?！肝疫@樣做是為了我自己的利益，」，「任何人構建的任何超級智能都不能失控，這一點顯然很重要?！?/p>
超對準的工作才剛剛開始。Sutskever 表示，這需要研究機構進行廣泛的變革。但他心中有一個想要設計的保障措施的理想標準：一個像父母對待孩子一樣對待人類的系統(tǒng)。
「在我看來，這是黃金標準，」他說?！溉藗冋娴暮荜P心自己的孩子，沒有人會否認這一點?！?/p>
「一旦你克服了流氓人工智能的挑戰(zhàn)，然后呢？在一個擁有更智能的人工智能的世界里，人類還有生存空間嗎？」
「一種可能性 —— 以今天的標準來看可能很瘋狂，但以未來的標準來看不會那么瘋狂 —— 就是許多人會選擇成為人工智能的一部分?！筍utskever 表示，「一開始，只有最勇敢、最有冒險精神的人才會嘗試這樣做。也許其他人會效仿，也可能不會」
參考資料：
https://www.technologyreview.com/2023/10/26/1082398/exclusive-ilya-sutskever-openais-chief-scientist-on-his-hopes-and-fears-for-the-future-of-ai/
本文來自微信公眾號：新智元 （ID：AI_era）
廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。