OpenAI 剛?cè)谫Y 100 億，DeepMind CEO 接受《時(shí)代》專(zhuān)訪(fǎng)，呼吁 AI 圈減少科研競(jìng)賽

原文標(biāo)題：《OpenAI 剛?cè)谫Y 100 億，DeepMind 急了？CEO 接受《時(shí)代》專(zhuān)訪(fǎng)，呼吁 AI 圈減少科研競(jìng)賽！》

DeepMind 一直是谷歌的驕傲。

作為谷歌母公司 Alphabet 的子公司，DeepMind 是世界領(lǐng)先的人工智能實(shí)驗(yàn)室之一。成立 13 年，它交出的成績(jī)單，十分亮眼。

不得不說(shuō)，DeepMind 在算法上是有點(diǎn)東西的。

2022 年 7 月，AlphaFold 大爆。2022 年 10 月，DeepMind 研發(fā)的 AlphaTensor 登上了自然雜志封面，這是第一個(gè)用于為矩陣乘法等基本計(jì)算任務(wù)發(fā)現(xiàn)新穎、高效、正確算法的 AI 系統(tǒng)。

現(xiàn)在，所有人都意識(shí)到了，AI 正處于時(shí)代的「風(fēng)口浪尖」。

ChatGPT 雖然寫(xiě)作能力媲美人類(lèi)，但很難規(guī)避掉訓(xùn)練數(shù)據(jù)中的錯(cuò)誤信息和有毒偏見(jiàn)。更可怕的是，現(xiàn)在計(jì)算能力已經(jīng)變得越來(lái)越低廉，AI 對(duì)普通大眾的門(mén)檻越來(lái)越低。

DeepMind CEO Demis Hassabis 對(duì) AI 發(fā)展的趨勢(shì)感到擔(dān)憂(yōu)，他擔(dān)心，AI 會(huì)被用于制造可怕的工具，破壞人類(lèi)的文明。

不過(guò)，也有網(wǎng)友吐槽，「我很欣賞他的立場(chǎng)，但是當(dāng)競(jìng)爭(zhēng)對(duì)手試圖盡可能快地朝著同一個(gè)目標(biāo)前進(jìn)時(shí)，這些 AI 開(kāi)發(fā)公司怎么能不加快行動(dòng)呢？」

還有網(wǎng)友說(shuō)，他是想為追趕 OpenAI 爭(zhēng)取時(shí)間 hhhhhh。

DeepMind 的使命 —— 構(gòu)建通用人工智能 AGI

接下來(lái)就讓我們看看，Hassabis 在這次的對(duì)話(huà)中，都透露了哪些重要信息。

時(shí)代雜志專(zhuān)欄記者 BILLY PERRIGO 采訪(fǎng)了 Deepmind CEO 兼創(chuàng)始人 Demis Hassabis，探討了 DeepMind 的使命，以及如何構(gòu)建 AI，從而解決一些世界上最棘手的問(wèn)題。

Demis Hassabis 站在螺旋樓梯的中間，審視著他建造的大教堂，這座跨越三層樓的 DNA 雕塑是 DeepMind 最近開(kāi)設(shè)的倫敦總部的核心

46 歲的 Hassabis 一直致力于解決關(guān)于 AI 的永恒問(wèn)題：

AI 是什么？其中埋藏著哪些可能性？人類(lèi)如何從中獲取更多能力？

Hassabis 說(shuō)他的團(tuán)隊(duì)一直在努力實(shí)現(xiàn)一個(gè)更宏偉的目標(biāo)：

這個(gè)目標(biāo)是構(gòu)建一個(gè)能夠自主思考、學(xué)習(xí)并解決人類(lèi)最棘手問(wèn)題的機(jī)器來(lái)實(shí)現(xiàn)通用人工智能（AGI）。

今天的人工智能是狹隘的、脆弱的，而且根本不算智能。

Hassabis 認(rèn)為，AGI 將成為一種劃時(shí)代的技術(shù)，就像電力的利用一樣改變?nèi)祟?lèi)生活的結(jié)構(gòu)。

就連他自己也把推特主頁(yè)的簽名改成了「致力于 AGI，嘗試了解現(xiàn)實(shí)的基本性質(zhì)」。

但人工智能的前景也伴隨著風(fēng)險(xiǎn)。

研究人員構(gòu)建的設(shè)計(jì)新藥的 AI 程序可以很容易制造出致命的生化用品，大規(guī)模訓(xùn)練的 AI 模型可能被仇恨言論者利用。

OpenAI 開(kāi)發(fā)的爆款 ChatGPT 因其容易受到種族主義和錯(cuò)誤信息的影響而受到批評(píng)，小公司 Prisma Labs 也是如此，許多用戶(hù)抱怨 Lensa 將他們的圖像性感化，暴露出其訓(xùn)練數(shù)據(jù)中的偏見(jiàn)。

正是在這種不確定的氣氛中，Hassabis 同意接受這次的采訪(fǎng)，就他日益增長(zhǎng)的擔(dān)憂(yōu)發(fā)出嚴(yán)厲警告，「我建議放緩 AI 前進(jìn)的速度，至少不要太快」。

就像 Facebook 用戶(hù)數(shù)量飆升至 30 億之時(shí)，大家都在歡呼雀躍，但當(dāng)虛假信息、仇恨言論甚至煽動(dòng)種族滅絕開(kāi)始出現(xiàn)在平臺(tái)上時(shí)，也讓公司措手不及。

Hassabis 看到了人工智能發(fā)展的令人擔(dān)憂(yōu)的趨勢(shì)，他說(shuō)：

人工智能現(xiàn)在正處于風(fēng)口浪尖，能夠制造出可能對(duì)人類(lèi)文明造成嚴(yán)重破壞的工具，并敦促他的競(jìng)爭(zhēng)對(duì)手比以前更加謹(jǐn)慎，但大多數(shù)人并沒(méi)有意識(shí)到其中存在的危險(xiǎn)性。

從國(guó)際象棋手到攪動(dòng)風(fēng)云的 CEO

和其他同齡人不太一樣，Hassabis12 歲時(shí)就已經(jīng)是世界排名第二的國(guó)際象棋棋手，并提前一年從高中畢業(yè)。

Hassabis（左）9 歲時(shí)擔(dān)任英格蘭 11 歲以下國(guó)際象棋隊(duì)隊(duì)長(zhǎng)

他還在初中時(shí)就已經(jīng)開(kāi)始思考那些改變?nèi)祟?lèi)歷史的大問(wèn)題，他說(shuō)：

我想理解那些大問(wèn)題，那些通常會(huì)與哲學(xué)或物理學(xué)領(lǐng)域相關(guān)的大的話(huà)題，我認(rèn)為構(gòu)建 AI 將是回答其中一些問(wèn)題的最快途徑。

Hassabis 走進(jìn) Guildford 的 Bullfrog 視頻游戲工作室時(shí)只有 15 歲。

他還參加了一家電子游戲雜志的比賽，以贏(yíng)得在著名工作室實(shí)習(xí)的機(jī)會(huì)，他設(shè)計(jì)的一個(gè)太空侵略者風(fēng)格的游戲還獲得了當(dāng)季銷(xiāo)售量第二的成績(jī)。

Bullfrog 的聯(lián)合創(chuàng)始人 Peter Molyneux 仍然記得第一次見(jiàn)到 Hassabis 的樣子，莫利紐克斯說(shuō)：

他看起來(lái)像指環(huán)王里的精靈，這是一個(gè)從他身邊走過(guò)，甚至都不會(huì)注意到的小孩子，但他的眼中閃爍著智慧的光芒。

在去 Bullfrog 的圣誕晚會(huì)的公交車(chē)上一次偶然的談話(huà)中，這位少年迷住了 Molyneux。

他們談到了游戲的哲學(xué)，是什么讓勝利如此吸引人，以及你是否可以將這些相同的特征灌輸?shù)綑C(jī)器中，那時(shí)他就知道這個(gè)年輕人注定要成就大事。

邊讀博，邊進(jìn)軍游戲圈

從劍橋大學(xué)畢業(yè)后，Hassabis 回到 Bullfrog 幫助 Molyneux 開(kāi)發(fā)了他迄今為止最受歡迎的游戲：Theme Park，一款玩家從上帝視角經(jīng)營(yíng)游樂(lè)場(chǎng)業(yè)務(wù)的模擬游戲。

在決定攻讀神經(jīng)科學(xué)博士學(xué)位之前，Hassabis 繼續(xù)建立了自己的游戲公司。

他想了解大腦的算法層面：不是微觀(guān)神經(jīng)元之間的相互作用，而是似乎產(chǎn)生人類(lèi)強(qiáng)大智能的更大結(jié)構(gòu)。

思想是宇宙中最難以捉摸的事物，從象棋到游戲再到神經(jīng)科學(xué)，我一生的經(jīng)歷和職業(yè)軌跡都為了發(fā)現(xiàn)其中的奧秘。

2013 年，DeepMind 成立第三年，谷歌來(lái)敲門(mén)了。

一群谷歌高管乘坐私人飛機(jī)飛往倫敦，Hassabis 向他們展示了團(tuán)隊(duì)的作品 —— 訓(xùn)練玩電腦游戲 Breakout 的 AI 原型，這讓他們驚嘆不已。

DeepMind 算法背后的標(biāo)志性技術(shù) —— 強(qiáng)化學(xué)習(xí)（Reinforced Learning），是谷歌當(dāng)時(shí)沒(méi)有做過(guò)的事情。

它的靈感來(lái)自人腦的學(xué)習(xí)方式，這是 Hassabis 在他作為神經(jīng)科學(xué)家期間形成的一種理解。

AI 在游戲中的數(shù)百萬(wàn)次訓(xùn)練，每次得分都會(huì)得到獎(jiǎng)勵(lì)，并通過(guò)基于點(diǎn)的強(qiáng)化過(guò)程學(xué)習(xí)最佳策略。

Hassabis 和他的同事們堅(jiān)信在游戲環(huán)境中訓(xùn)練人工智能，這種方法的好處給谷歌高管留下了深刻的印象。

「我立刻就愛(ài)上了他們，」領(lǐng)導(dǎo)這次考察之旅的谷歌前高級(jí)副總裁 Alan Eustace 說(shuō)。

目前，Hassabis 最?lèi)?ài)的一款游戲名為 Polytopia。在這款策略游戲中，玩家的目標(biāo)是通過(guò)技術(shù)進(jìn)步，將一個(gè)小村莊發(fā)展成為一個(gè)統(tǒng)治世界的帝國(guó)。

Hassabis 說(shuō)，馬斯克也是這款游戲的粉絲。兩人最后一次交談是在幾個(gè)月前，主要聊的就是 Polytopia。

雖然 Hassabis 為人謹(jǐn)慎，但很容易理解，為什么游戲能與他產(chǎn)生共鳴。他仍然相信技術(shù)進(jìn)步本質(zhì)上對(duì)人類(lèi)有益。而在資本主義制度下，預(yù)測(cè)和減輕 AI 的風(fēng)險(xiǎn)是可能的?！缚茖W(xué)和技術(shù)的進(jìn)步，這就是文明的驅(qū)動(dòng)力，」他說(shuō)。

被馬斯克拋棄

但就在 DeepMind 不斷攀登新高度的時(shí)候，事情開(kāi)始變得復(fù)雜起來(lái)。

2015 年，其最早的兩位投資者，億萬(wàn)富翁彼得?泰爾和埃隆?馬斯克，通過(guò)資助競(jìng)爭(zhēng)對(duì)手初創(chuàng)公司 OpenAI 象征性地背棄了 DeepMind。

該實(shí)驗(yàn)室隨后獲得了微軟 10 億美元的資助，它也相信 AGI 的可能性，但對(duì)于如何實(shí)現(xiàn)這一目標(biāo)有著截然不同的理念。

它對(duì)游戲沒(méi)那么感興趣。它的大部分研究都不是集中在強(qiáng)化學(xué)習(xí)上，而是集中在無(wú)監(jiān)督學(xué)習(xí)上，這是一種不同的技術(shù)，涉及從互聯(lián)網(wǎng)上抓取大量數(shù)據(jù)并將其通過(guò)神經(jīng)網(wǎng)絡(luò)抽取。

當(dāng) DeepMind、谷歌和其他 AI 實(shí)驗(yàn)室一直在閉門(mén)進(jìn)行類(lèi)似研究時(shí)，OpenAI 更愿意讓公眾使用其工具。

2022 年，DeepMind 推出了 DALL?E 2，可以生成幾乎任何可以想象到的搜索詞的圖像，以及聊天機(jī)器人 ChatGPT。由于這兩種工具都是根據(jù)從互聯(lián)網(wǎng)上收集的數(shù)據(jù)進(jìn)行訓(xùn)練的，因此它們受到結(jié)構(gòu)性偏見(jiàn)和不準(zhǔn)確的困擾。

DALL?E 2 很可能將律師描繪成白人老頭，將空姐描繪成年輕美女，而 ChatGPT 則容易自信斷言虛假信息。

但是，盡管 Hassabis 呼吁放慢 AI 競(jìng)賽的步伐，但 DeepMind 似乎也未能幸免于競(jìng)爭(zhēng)壓力。

2022 年初，該公司發(fā)布了更快引擎的藍(lán)圖。這項(xiàng)名為 Chinchilla 的研究表明，許多業(yè)界最前沿的模型訓(xùn)練效率低下，并解釋了它們?nèi)绾文軌蛞韵嗤降挠?jì)算能力提供更多功能。

Hassabis 說(shuō)，DeepMind 的內(nèi)部道德委員會(huì)討論了發(fā)布研究是否不道德，因?yàn)樗赡軙?huì)讓不那么謹(jǐn)慎的公司在沒(méi)有嚴(yán)格保護(hù)的情況下發(fā)布更強(qiáng)大的技術(shù)。

人工智能巨頭的道德紅線(xiàn)

置身其中，Hassabis 深知人工智能可能產(chǎn)生的危險(xiǎn)。

「他明白 AI 技術(shù)對(duì)社會(huì)影響深遠(yuǎn)，他想在技術(shù)發(fā)明之前就能有所了解，」Eustace 說(shuō)?！高@就像國(guó)際象棋。如何面對(duì)殘局？如何預(yù)測(cè)二十步之后的發(fā)展？」

Eustace 向 Hassabis 承諾，谷歌也有同樣的擔(dān)憂(yōu)，兩者之間的利益一致。Eustace 說(shuō)，谷歌的使命是索引所有人類(lèi)的知識(shí)，使之易于訪(fǎng)問(wèn)，并最終提高世界的智商。

「我認(rèn)為這引起了他的共鳴?！?014 年，谷歌以約 5 億美元的價(jià)格收購(gòu)了 DeepMind。Hassabis 拒絕了來(lái)自 Facebook 的更高報(bào)價(jià)。

他說(shuō)，其中一個(gè)原因是，與 Meta 不同，谷歌「非常樂(lè)意接受」DeepMind 劃定的道德紅線(xiàn)。

Hassabis 希望，DeepMind 成為 Al 研究中安全和道德的代表。以身作則，在這個(gè)充滿(mǎn)追求更快更強(qiáng)的領(lǐng)域做好自己。

DeepMind 發(fā)布了反對(duì)不道德使用其技術(shù)（包括監(jiān)視和武器化）的「紅線(xiàn)」。但它卻沒(méi)能阻止母公司谷歌，使用自己搭建的 AI 系統(tǒng)，和五角大樓進(jìn)行科技合作。

2021 年，Alphabet 結(jié)束了與 DeeMind 長(zhǎng)達(dá)數(shù)年的談判。根據(jù)談判結(jié)果，DeepMind 將保持其在 Alphabet 的現(xiàn)有地位，其未來(lái)工作將由谷歌高級(jí)技術(shù)審查委員會(huì)監(jiān)督，其中包括兩名 DeepMind 高管。

Hassabis 并不否認(rèn) DeepMind 的「逃離谷歌」計(jì)劃，但沒(méi)有表示自己對(duì)公司目前架構(gòu)的擔(dān)憂(yōu)。

但他補(bǔ)充說(shuō)，自收購(gòu)以來(lái)，DeepMind 的道德結(jié)構(gòu)已經(jīng)「演變?yōu)楝F(xiàn)在的樣子」。

Hassabis 說(shuō)，DeepMind 和 Alphabet 都致力于公共道德框架，并從一開(kāi)始就將安全納入他們的工具。

DeepMind 有自己的內(nèi)部道德委員會(huì)，即機(jī)構(gòu)審查委員會(huì)（IRC），由公司所有部門(mén)的代表組成，首席運(yùn)營(yíng)官 Lila Ibrahim 擔(dān)任主席。

Ibrahim 說(shuō)，IRC 定期舉行會(huì)議，任何分歧都會(huì)升級(jí)到 DeepMind 的執(zhí)行領(lǐng)導(dǎo)人做出最終決定。她說(shuō)，「我們的運(yùn)作十分自由，有一個(gè)單獨(dú)的審查流程?！?/p>

當(dāng)被問(wèn)及如果 DeepMind 的領(lǐng)導(dǎo)團(tuán)隊(duì)不同意 Alphabet 高層的決定，或者公司的道德「紅線(xiàn)」被越過(guò)會(huì)發(fā)生什么時(shí)，Ibrahim 說(shuō)：「我們還沒(méi)有遇到這個(gè)問(wèn)題?！?/p>

AlphaGo：震驚世界的人機(jī)大戰(zhàn)

在 DeepMind 總部大廳遠(yuǎn)處墻壁的玻璃柜中，放著一塊涂有黑色涂鴉的大方形木頭。

這是 DeepMind 第一次重大成功的紀(jì)念品。谷歌收購(gòu)后不久，該公司就為自己設(shè)定了挑戰(zhàn)，即設(shè)計(jì)一種算法，在圍棋中擊敗世界上最好的棋手。

當(dāng)時(shí)，國(guó)際象棋早已被蠻力計(jì)算機(jī)編程所征服，但圍棋要復(fù)雜得多；最好的人工智能算法仍然無(wú)法與頂級(jí)人類(lèi)玩家相提并論。

DeepMind 以破解 Breakout 的方式解決了這個(gè)問(wèn)題。它建立了一個(gè)程序，在通過(guò)觀(guān)察人類(lèi)游戲來(lái)學(xué)習(xí)游戲規(guī)則后，它可以與自己進(jìn)行數(shù)百萬(wàn)次模擬對(duì)戰(zhàn)。

通過(guò)強(qiáng)化學(xué)習(xí)，算法會(huì)自我更新，減少使其更有可能輸?shù)舯荣惖臎Q策的「權(quán)值」，并增加使其更有可能獲勝的「權(quán)值」。

2016 年 3 月，名為 AlphaGo 的算法與世界頂級(jí)圍棋選手之一李世石對(duì)決。AlphaGo 以四比一擊敗了他。敗北的李用黑色記號(hào)筆在棋盤(pán)背面潦草地簽下了自己的簽名。

AGI 驅(qū)動(dòng)的未來(lái)會(huì)是烏托邦嗎？

Hassabis 認(rèn)為，如果 AGI 創(chuàng)造財(cái)富的時(shí)代已經(jīng)到來(lái)，那么這些財(cái)富應(yīng)該重新得到分配?！肝艺J(rèn)為我們需要確保盡可能多的人受益 —— 最好是全人類(lèi)?！?/p>

他喜歡全民基本收入（universal basic income）的想法。在理念下，每個(gè)公民每月都會(huì)從政府那里獲得津貼和基本服務(wù)。同時(shí)，國(guó)家會(huì)保障公民交通或住房等基本生活水平。

Hassabis 說(shuō)，AGI 驅(qū)動(dòng)的未來(lái)應(yīng)該比當(dāng)今世界更加注重財(cái)富平等，但他沒(méi)有解釋該系統(tǒng)將如何運(yùn)作。

「如果我們生活在一個(gè)極度富足的世界，那么留給不平等的空間也越小，不平等產(chǎn)生的概率也會(huì)更低。因此，如果 AGI 的愿景得以實(shí)現(xiàn)，這就是它的積極影響之一?！?/p>

然而，鑒于過(guò)去幾十年，科技行業(yè)極速增長(zhǎng)與財(cái)富不平等的大幅加劇同時(shí)發(fā)生，其他人對(duì)這種烏托邦式的未來(lái)并沒(méi)有那么樂(lè)觀(guān)。

播客節(jié)目 Tech Won't Save Us 的主持人 Paris Marx 說(shuō)：「大公司，包括 DeepMind 的母公司，首要任務(wù)是確保為股東創(chuàng)造最大價(jià)值。

如果不能獲利，這些公司根本不會(huì)專(zhuān)注于解決氣候危機(jī)。當(dāng)公司的全部目標(biāo)是為股東積累更多財(cái)富時(shí)，他們肯定對(duì)重新分配財(cái)富不感興趣?！?/p>

「我們?nèi)狈Φ牟皇墙鉀Q氣候危機(jī)或重新分配財(cái)富的技術(shù)，」Marx 說(shuō)?！肝覀?nèi)狈Φ氖钦我庠?。目前?lái)說(shuō)，很難看出一項(xiàng)新技術(shù)的誕生將如何產(chǎn)生政治意愿，從而實(shí)現(xiàn)真正的社會(huì)轉(zhuǎn)型。」

說(shuō)回 DeepMind 的螺旋樓梯，樓梯中間，擺放著一個(gè)巨大的 DNA 雕塑。雕塑前的木凳上有一個(gè)告知：「請(qǐng)勿觸碰，」上面寫(xiě)著?！杆浅４嗳酰苋菀讚p壞?！?/p>

參考資料：

• https://time.com/6246119/demis-hassabis-deepmind-interview/

• https://www.youtube.com/watch?v=Gfr50f6ZBvo

本文來(lái)自微信公眾號(hào)：新智元 （ID：AI_era）

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。