今年的諾獎將物理和化學兩個領(lǐng)域的獎項都頒給了 AI 成果，這究竟代表著怎樣的含義，又會產(chǎn)生怎樣的影響？Demis Hassabis 在本次專訪中提出了自己的見解。
10 月，DeepMind 聯(lián)合創(chuàng)始人兼 CEO Demis Hassabis 憑借 AlphaFold 成為了諾貝爾化學獎的三位共同獲獎?wù)咧弧?/p>
作為一種人工智能軟件，AlphaFold 解決了一個生物學界 50 年前提出的問題：預(yù)測每種已知蛋白質(zhì)的結(jié)構(gòu)。
事實上，AlphaFold 這個極具開創(chuàng)性的模型，也僅僅是 DeepMind 成果的一部分。成立 15 年來，DeepMind 已經(jīng)躋身為全球最重要的 AI 實驗室之一。
盡管被谷歌收購、與 Google Brain 合并后加入了一些商業(yè)考量，但他們目前仍然專注于科學和工程中最復雜和基本的問題，最終設(shè)計出能夠模仿，甚至取代人類認知能力的強大 AI。
獲得諾獎后不到 24 小時，Demis Hassabis 就接受了《金融時報》記者 Madhumita Murgia 的采訪，討論了 DeepMind 下一步將要解決的重大難題、AI 對科學進步的作用，以及他本人對 AGI 之路的前景預(yù)測。
Demis Hassabis 在谷歌 DeepMind 倫敦總部
AI 4 Science 的下一個挑戰(zhàn)
AlphaFold 3 的相關(guān)進展，就一定程度上彰顯了 DeepMind 在生物學領(lǐng)域下一步的前進方向 —— 理解生物體內(nèi)的相互作用，最終對整個通路進行建模，甚至可以構(gòu)建出一個虛擬細胞。
此外，通過 DeepMind 子公司 Isomorphic 的努力，他們也在進軍藥物發(fā)現(xiàn)領(lǐng)域 —— 設(shè)計全新的化合物、找到結(jié)合位置，并預(yù)測出這些物質(zhì)的特性、吸收性、毒性等等。
目前，Isomorphic 還與禮來、諾華等公司合作開展了 6 個藥物研發(fā)計劃，有望未來幾年內(nèi)在臨床上有所進展，希望能大幅縮減藥物發(fā)現(xiàn)所需時間，從而幫助治愈一些疾病。
除了生物學領(lǐng)域，Hassabis 也表示對材料設(shè)計領(lǐng)域的工作感到十分興奮。
去年，他們在 Nature 上發(fā)表的一篇論文提出了名為 GNoME 的 AI 工具，實現(xiàn)了 AlphaFold 1 級別的材料設(shè)計，共發(fā)現(xiàn)了 220 萬個新晶體；下一步，就需要努力達到 AlphaFold 2 級別。
論文地址：https://www.nature.com/articles/s41586-023-06735-9
數(shù)學方面，AlphaProof 和 AlphaGeometry 已經(jīng)在今年達到了 IMO 銀牌的水準，接下來的幾年，DeepMind 將嘗試借助 AI 的力量真正解決一個重要的數(shù)學猜想。
對于能源和氣候領(lǐng)域，去年在 Science 上發(fā)表的 Graphcast 模型能在 1 分鐘內(nèi)以前所未有的精度預(yù)測未來 10 天的天氣。
論文地址：https://www.science.org/stoken/author-tokens/ST-1550/full
這其中的技術(shù)，或許可以幫助進行氣候建模，這對于應(yīng)對氣候變化、優(yōu)化電網(wǎng)等領(lǐng)域都非常重要。
可以看出，DeepMind 的未來藍圖中，重點更多地放在應(yīng)用和工程實踐層面，旨在將技術(shù)進一步轉(zhuǎn)化為能夠影響現(xiàn)實世界的工作，而非純粹的基礎(chǔ)研究。
對此，Hassabis 表示，「蛋白質(zhì)折疊」是一個「可遇不可求」的「挑戰(zhàn)」，不能要求每個問題都有如此含金量。
「蛋白質(zhì)折疊」這個問題如此核心且重要，相當于生物學領(lǐng)域的費馬大定理，但可惜的是，沒有多少問題足夠重要、探索時間足夠長，能夠被稱之為「挑戰(zhàn)」。
諾獎將成為 AI 的分水嶺
今年的諾貝爾物理和化學獎項接連頒給 AI 學者，這很有趣，但誰也說不清評獎委員會為什么會做出這樣的決定。
對此，Hassabis 如何理解？
他表示，這很像是委員會特意發(fā)表的一種「聲明」，也將成為 AI 的分水嶺時刻，標志著它的技術(shù)成熟度得到了足夠的認可，能夠協(xié)助科學發(fā)現(xiàn)。
AlphaFold 就是最好的例子，而 Hinton 和 Hopfield 的獎項則是針對更基礎(chǔ)、更底層的算法工作。
Hassabis 表示，希望 10 年后回顧當下時，AlphaFold 將預(yù)示著所有這些不同領(lǐng)域的科學發(fā)現(xiàn)的新黃金時代。
這也帶來了一個有趣的問題：有了 AlphaFold 這樣的工具，科學家們不再需要花費過多的時間和精力來進行預(yù)測，這是否意味著我們應(yīng)當去開拓新的領(lǐng)域？甚至改變學習科學概念的方式？
需要注意的是，AI 系統(tǒng)是一類獨特的新工具，它們具有一些內(nèi)在的功能，因而不適用于傳統(tǒng)意義上對工具的分類。
雖然 AlphaFold 等工具目前只能做到預(yù)測，但從某種意義上說，預(yù)測也是「理解」的一部分。如果你能預(yù)測，那就可以帶來理解。
甚至，如果預(yù)測的輸出足夠重要，比如蛋白質(zhì)的結(jié)構(gòu)，那么它本身就是有價值的。
從更宏大的視角來看，科學中包含了很多層次的「抽象」。
比如，整個化學領(lǐng)域就是建立在物理學的基礎(chǔ)上。你不需要理解量子力學等全部的物理原理，也可以談?wù)撛踊衔?，在化學自身的抽象層去理解它。
對生物學領(lǐng)域而言，我們可以研究生命，但仍然不知道生命是如何進化或出現(xiàn)的，甚至無法正確定義「生命」這個概念。
類似的，人工智能也像一個抽象層，構(gòu)建程序和網(wǎng)絡(luò)的人們在一定的物理層面上理解這一點，但隨后產(chǎn)生的預(yù)測結(jié)果就像一種突然涌現(xiàn)的屬性，我們可以在科學的層面上自行分析這些預(yù)測。
AGI 迫近，理解很重要
無論是自然科學，還是人工智能系統(tǒng)，「理解」都很重要。
人工智能是一門工程學科，這意味著你必須先建造出一個系統(tǒng)，之后才能研究、理解這個對象；而自然科學中的現(xiàn)象不需要制造，是天然存在的。
雖然 AI 系統(tǒng)是工程化的人造物，但這并不意味著比自然現(xiàn)象更容易研究，甚至可以預(yù)期到的是，它會像生物神經(jīng)網(wǎng)絡(luò)一樣難以理解、分拆和解構(gòu)。
現(xiàn)在這種情況正在發(fā)生，但我們已經(jīng)取得了一些進展，比如有一個專門的領(lǐng)域叫作「機械解釋」（mechanistic interpretation），就是使用神經(jīng)科學的觀念和工具來分析 AI 系統(tǒng)這個「虛擬大腦 」。
對于 AI 的可解釋性，Hassabis 非常樂觀，認為未來幾年就會在理解 AI 系統(tǒng)這方面取得很大進展。
當然，AI 也可以學著解釋自己。想象一下將 AlphaFold 與語言能力系統(tǒng)結(jié)合起來，它就可以一邊預(yù)測，一邊解釋自己在做什么。
目前，很多領(lǐng)先的實驗室正在縮小他們的探索范圍，專注于對 Transformers 進行擴展。不可否認，這是一個很好的方向，也將成為最終 AGI 系統(tǒng)的關(guān)鍵組成部分，但 DeepMind 會繼續(xù)堅持探索和創(chuàng)新研究。
事實上，對于發(fā)明下一代 Transformer 而言，DeepMind 擁有迄今為止最廣泛、最深入的研究平臺，這是他們科學遺產(chǎn)的一部分。
這些探索都是必要的，一部分原因是為了看看我們能走多遠，這樣就知道需要探索什么。
探索新想法，以及將令人興奮的想法發(fā)揮到極致，這兩條路都很重要。如果你不了解當前想法的絕對局限，也不會知道需要哪些突破。
LLM 的長上下文窗口就是一個很好的例子。谷歌 Gemini 1.5 Pro 做出的 2M token 上下文就是一個很酷的創(chuàng)新，目前沒有其他人能夠復制。
谷歌 DeepMind 倫敦辦公室
理解 AI，才會有安全的 AGI
Hassabis 和很多科技領(lǐng)袖都曾預(yù)測，實現(xiàn) AGI 還需要 5～20 年的時間。
如果要用科學方法實現(xiàn)這一目標，就意味著更多的時間、精力和思考，集中在 AI 的理解和分析工具、基準測試和評估上，需要目前投入的 10 倍。
這些投入不僅來自科技公司，還應(yīng)包括 AI 安全機構(gòu)，也來自學術(shù)界和民間社會。我們需要了解 AI 系統(tǒng)正在做什么、它們的局限性，以及如何控制和保護這些系統(tǒng)。
「理解」是科學方法的重要組成部分，卻是純工程中所缺少的。工程只是旁觀 —— 這個方法有效嗎？如果不起作用就再試一次，充滿了試驗和誤差。
科學則是在一切發(fā)生之前就能理解的東西。理想情況下，這種理解意味著更少的錯誤。這對于 AI 和 AGI 來說很重要，因為在運用一項如此強大的技術(shù)時，你希望盡可能少地犯錯誤。
也許幾年后，當我們接近 AGI 時，就會出現(xiàn)一個社會問題 —— 我們希望這些系統(tǒng)具有什么價值？我們要為它們設(shè)定什么樣的目標？
這與技術(shù)問題不同。技術(shù)層面關(guān)注的是如何讓系統(tǒng)走上正軌，朝著設(shè)定的目標前進，但并不能幫助我們決定目標應(yīng)該是什么。
為了安全的 AGI 系統(tǒng)，技術(shù)問題和社會問題，這兩件事都需要正確，但 Hassabis 認為，后者可能更難實現(xiàn)。
目標和價值觀等一系列問題，會更多地涉及 UN 和地緣政治，甚至社會科學和哲學，需要與政府、學術(shù)界和民間社會各階層進行廣泛的討論。
即使 AGI 還需要 10 年才能實現(xiàn)，我們解決這些問題的時間也并不是很多，因此這方面的討論應(yīng)該從現(xiàn)在開始，讓各種來源、各種觀點的聲音呈現(xiàn)在桌面上。
參考資料：
https://www.ft.com/content/72d2c2b1-493b-4520-ae10-41c1a7f3b7e4
本文來自微信公眾號：微信公眾號（ID：null），作者：新智元
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。