Transformer 作者出走谷歌創(chuàng)業(yè),專(zhuān)攻通用人工智能,已獲得 6500 萬(wàn)美元投資

量子位 2022/4/30 7:37:25 責(zé)編:瀟公子

最近,一家 AI 初創(chuàng)公司引起了不少人的注意。在推特上宣布成立之時(shí),有不少人為其點(diǎn)贊和轉(zhuǎn)發(fā)。

一上來(lái)就要搞通用人工智能,什么來(lái)頭?我們看了一下它的創(chuàng)始人名單:

Ashish Vaswani 和 Niki Parmar,這不是大名鼎鼎的 Transformer 論文作者嗎?

這篇開(kāi)山之作引用次數(shù)已高達(dá) 4 萬(wàn),瀏覽新論文時(shí)經(jīng)常會(huì)看到“(Vaswani et al., 2017)”的字樣,以至于這個(gè)名字都快被刻進(jìn) DNA 了。

他們這是,離開(kāi)谷歌了?

Transformer 作者出走谷歌創(chuàng)業(yè)

Ashish Vaswani 和 Niki Parmar 兩位作者在推特上的官宣證實(shí)了這一消息。

兩位大佬在谷歌干了 5 年有余,做出了 Transformer 這一具有代表性的傲人成績(jī)后,開(kāi)始了新的職業(yè)生涯。他們參與創(chuàng)辦的這家 AI 公司,名叫 Adept ,目標(biāo)是創(chuàng)造讓人和計(jì)算機(jī)能夠協(xié)同工作的通用人工智能。說(shuō)的更直白一些,他們就是要打造一個(gè)通用模型,它能做到不是讓人用計(jì)算機(jī)來(lái)完成工作,而是讓人和計(jì)算機(jī)一起使用同樣的工具合作完成工作。

至于為什么要離開(kāi)谷歌創(chuàng)業(yè),這事兒還是得從 Transformer 說(shuō)起。

眾所周知,2017 年誕生的 Transfromer,具有高度的通用能力,一路從最初的 NLP 橫跨 CV 等領(lǐng)域,成為了不少巨型模型的基本架構(gòu),包括大名鼎鼎的 GPT-3、BERT、AlphaFold 等。

截止目前,Transfromer 在谷歌學(xué)術(shù)上顯示的引用次數(shù)已達(dá) 40723 次。順便還帶火了“xxx is all you need”格式的論文標(biāo)題黨方式。而 Ashish Vaswani 和 Niki Parmar 和其他創(chuàng)始人們,正是看重 Transformer 的通用智慧,他們表示:

Transformer 應(yīng)該是第一個(gè)對(duì)每個(gè)主要 AI 用例都能“正常工作”的神經(jīng)網(wǎng)絡(luò)。

這讓他們相信:通用人工智能是完全有可能被實(shí)現(xiàn)的。

但遺憾的是,盡管他們訓(xùn)練出了越來(lái)越大的 Transformer,希望最終建立一個(gè)支持所有 ML 用例的通用 Transformer,但眼下就已經(jīng)出現(xiàn)了一個(gè)明顯的限制:Transformer 可以寫(xiě)出一篇不錯(cuò)的文章,我們卻沒(méi)法要求它完成幫人訂飛機(jī)票、給供應(yīng)商開(kāi)發(fā)票甚至做科學(xué)實(shí)驗(yàn)等等工作。

所以,這些人決定創(chuàng)辦通用人工智能公司 Adept。

正如前面所提到的,Adept 要實(shí)現(xiàn)的通用人工智能模型不僅是讀讀寫(xiě)寫(xiě),還能使用 Airtable、Photoshop、ATS、Tableau、Twilio 等工具幫你完成諸如“生成本月閱讀報(bào)告”等工作。

因此有人認(rèn)為,Adept 的目標(biāo)更像是協(xié)作智能,它選擇了和其他通用人工智能(AGI)公司截然不同的實(shí)現(xiàn)道路,即并非建立 AGI 來(lái)接管各種有價(jià)值的任務(wù),而是建立 AI 工具,來(lái)幫人類(lèi)完成任務(wù)。這種方式更容易實(shí)現(xiàn)。

創(chuàng)業(yè)陣容豪華

Ashish Vaswani 博士畢業(yè)于南加州大學(xué),在谷歌大腦工作已有 5 年;Niki Parmar 則是在印度上完大學(xué)后,同樣在南加州大學(xué)讀完碩士,在谷歌工作了近 7 年。

Adept 的創(chuàng)始團(tuán)隊(duì)陣容除了這兩位以外也非常豪華:

Kelsey Schroeder,斯坦福大學(xué)計(jì)算數(shù)學(xué)(computational mathematics )專(zhuān)業(yè)碩士,前谷歌大模型生產(chǎn) infra 的產(chǎn)品負(fù)責(zé)人;

Anmol Gulati,在谷歌主要做語(yǔ)音識(shí)別模型;

Augustus Odena,在谷歌領(lǐng)導(dǎo)大型語(yǔ)言模型相關(guān)的工作,也有不少圖像合成方面的研究;

David Luan,前 OpenAI 加州實(shí)驗(yàn)室工程副總裁,參與過(guò) GPT-2、GPT-3、CLIP 和 DALL-E 等模型的開(kāi)發(fā)工作,后來(lái)他加入谷歌,擔(dān)任谷歌大腦大模型研究的 Director;

Erich Elsen,機(jī)器學(xué)習(xí)和高性能計(jì)算交叉領(lǐng)域的研究人員,前 Deepmind 員工,主要研究大模型,在更早之前,還分別在谷歌和百度(硅谷 AI Lab)干了兩年;

Fred Bertsch,谷歌數(shù)據(jù)和協(xié)作人工智能系統(tǒng)方面的專(zhuān)家。

最后一位,Maxwell Nye,是剛從 MIT 畢業(yè)的一位博士生,研究重點(diǎn)為自動(dòng)代碼生成。

總的來(lái)說(shuō),可謂大佬云集,且各有專(zhuān)攻。

他們的雄心壯志也順利為公司拉來(lái)了 6500 萬(wàn)美元的天使輪融資,投資人包括 Uber CEO、特斯拉自動(dòng)駕駛負(fù)責(zé)人、Airtable 創(chuàng)始人等。

目前,該公司已經(jīng)開(kāi)放招聘,共包含 13 種崗位。

One More Thing

Transformer 作者一共有 8 位,都具有同等貢獻(xiàn)。

其實(shí)在 Ashish Vaswani 和 Niki Parmar 之前,已經(jīng)有 1 位 ——Aidan N. Gomez 也出來(lái)創(chuàng)業(yè)了。

Aidan N. Gomez 的公司 Co:here 還是專(zhuān)注于 NLP。

Co:here 去年 5 月成立,還不到一年,投資者陣容倒是也很強(qiáng)大,包括圖靈獎(jiǎng)得主 Geoffrey Hinton、GAN 之父 Ian Goodfellow,以及斯坦福大學(xué)教授李飛飛等人。

不知道若干年以后,Adept 以及 Co:here 能取得什么樣的成果。

參考鏈接:

[1]https://twitter.com/AdeptAILabs/status/1518975477917962245

[2]https://www.adept.ai/post/introducing-adept

廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:Transformer,人工智能,創(chuàng)業(yè)

軟媒旗下網(wǎng)站: IT之家 最會(huì)買(mǎi) - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會(huì)買(mǎi) 要知