OpenAI 一拳把谷歌干啞火，AI 的開源時(shí)代要結(jié)束了嗎？
AI 在過去十多年的飛速發(fā)展，得益于高校、企業(yè)與個(gè)人開發(fā)者的通力合作，讓人工智能領(lǐng)域內(nèi)遍布開源的代碼、數(shù)據(jù)及教程。
谷歌也一直是 AI 行業(yè)的領(lǐng)軍者，發(fā)表的論文橫跨自然語言處理、計(jì)算機(jī)視覺、強(qiáng)化學(xué)習(xí)等多個(gè)領(lǐng)域，為行業(yè)內(nèi)貢獻(xiàn)了諸如 Transformer, Bert, PaLM 等諸多基礎(chǔ)模型與架構(gòu)。
但 OpenAI 打破了游戲規(guī)則，不僅拿著 Transformer 開發(fā)出了 ChatGPT，還憑著初創(chuàng)公司的優(yōu)勢，如受法律、輿論的影響更少，無需透露訓(xùn)練數(shù)據(jù)、模型規(guī)模、架構(gòu)等信息，甚至還挖走了不少谷歌等大廠的員工，打得谷歌是節(jié)節(jié)敗退。
面對不講武德的 OpenAI，谷歌也只能被動(dòng)挨打。
據(jù)匿名人士提供的消息稱，今年 2 月，Google AI 的掌門人 Jeff Dean 在會(huì)議中表示：
Google would take advantage of its own AI discoveries, sharing papers only after the lab work had been turned into products
谷歌將利用自己在人工智能方面的成果，只有在實(shí)驗(yàn)室成果轉(zhuǎn)化為產(chǎn)品后，才會(huì)共享論文。
轉(zhuǎn)向「防御狀態(tài)」的谷歌或許寄希望于把同類 AI 公司全都熬走，更好地保護(hù)自己的核心搜索業(yè)務(wù)及股價(jià)。
但 AI 如果少了這些大公司的開源精神，轉(zhuǎn)而走向壟斷，人工智能領(lǐng)域還能出現(xiàn)之前的發(fā)展奇跡嗎？
谷歌被偷家，只因「太負(fù)責(zé)」
對于谷歌這種數(shù)十億用戶體量的公司，即使是小規(guī)模的實(shí)驗(yàn)也可能會(huì)影響到數(shù)百萬人，并遭受輿論的反噬，這也是谷歌遲遲不愿推出聊天機(jī)器人并堅(jiān)守「負(fù)責(zé)任 AI」底線的原因。
2015 年，Google Photos 上線圖像分類功能，將一名黑人錯(cuò)誤分類為 Gorillas（大猩猩），谷歌立刻陷入公關(guān)危機(jī)，迅速道歉并整改。
谷歌整改的措施就是把 Gorillas 標(biāo)簽直接刪了，甚至還刪掉了貴賓犬（poodle），黑猩猩（chimpanzee），猴子（monkey）等類別。
結(jié)果就是圖像分類器不會(huì)再把黑人識別為猩猩，但也識別不了真正的猩猩了。
盡管多年來谷歌一直在投入大量資金開發(fā)人工智能技術(shù)，但受限于神經(jīng)網(wǎng)絡(luò)的黑盒不可解釋性，谷歌也無法完全保證投產(chǎn)后的可控性，需要更長時(shí)間的安全性測試，也就失去了先發(fā)優(yōu)勢。
今年 4 月，谷歌 CEO 劈柴哥（Sundar Pichai）在參加《60 分鐘》節(jié)目中仍然明確表示，人們需要對人工智能保持謹(jǐn)慎，它可能對社會(huì)造成很大的危害，比如偽造圖像和視頻等。
如果谷歌選擇「不那么負(fù)責(zé)」，勢必會(huì)引起更多監(jiān)管機(jī)構(gòu)、人工智能研究者和商界領(lǐng)袖的關(guān)注。
但 DeepMind 聯(lián)合創(chuàng)始人 Mustafa Suleyman 表示，其實(shí)并不是因?yàn)樗麄冞^于謹(jǐn)慎，而是因?yàn)樗麄儾辉敢馄茐默F(xiàn)有的收入流和商業(yè)模式，只有當(dāng)存在真正的外部威脅時(shí)，他們才會(huì)開始覺醒。
而這個(gè)威脅，已經(jīng)來了。
留給谷歌的時(shí)間不多了
自 2010 年起，谷歌就開始收購人工智能初創(chuàng)企業(yè)，并將相關(guān)技術(shù)逐步融入自家產(chǎn)品中。
2013 年，谷歌邀請深度學(xué)習(xí)先驅(qū)、圖靈獎(jiǎng)得主 Hinton 加盟（剛離職）；一年后，谷歌還以 6.25 億美元收購了初創(chuàng)公司 DeepMind
在被任命為谷歌首席執(zhí)行官后不久，劈柴哥更是宣布谷歌將以「AI 優(yōu)先」為基本策略，將人工智能技術(shù)整合到其所有產(chǎn)品中。
多年的深耕也讓谷歌的人工智能研究團(tuán)隊(duì)取得了諸多突破性進(jìn)展，但與此同時(shí)，一些規(guī)模較小的創(chuàng)業(yè)公司也在人工智能領(lǐng)域取得了一些成就。
OpenAI 成立的初衷是為了制衡大型科技公司對人工智能領(lǐng)域公司的收購壟斷，并且憑借小公司的優(yōu)勢，OpenAI 受到的審查和監(jiān)管更少，而且更有意愿快速將人工智能模型交付到普通用戶手中。
所以人工智能的軍備競賽就在這種沒有監(jiān)管的情況下愈演愈烈，面對競爭，大型企業(yè)的「責(zé)任心」可能會(huì)逐漸減弱。
谷歌高層也不得不選擇 DeepMind 所擁護(hù)的「人工智能技術(shù)匹配」、「超越人類智能」等通用人工智能概念的前景。
今年 4 月 21 日，劈柴哥宣布把原由 Jeff Dean 運(yùn)營的谷歌大腦和此前收購的 DeepMind 合并，交由 DeepMind 聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Demis Hassabis 負(fù)責(zé)，以加速谷歌在人工智能領(lǐng)域的進(jìn)步。
Hassabis 表示，只需要幾年時(shí)間，AI 水平可能就會(huì)比大多數(shù)人工智能專家預(yù)測的更接近人類智能的水平。
谷歌進(jìn)入「戰(zhàn)備狀態(tài)」
根據(jù)外媒對 11 名谷歌現(xiàn)任和前任員工的采訪，最近幾個(gè)月，谷歌已對旗下人工智能業(yè)務(wù)進(jìn)行了全面改革，主要目標(biāo)是迅速推出產(chǎn)品，降低向小用戶群推出實(shí)驗(yàn)性人工智能工具的門檻，在公平性等領(lǐng)域開發(fā)一套新的評估指標(biāo)和優(yōu)先級。
劈柴哥強(qiáng)調(diào)，谷歌嘗試加快研發(fā)速度并不意味著偷工減料。
為了確保通用人工智能以負(fù)責(zé)任的方式發(fā)展，我們正在籌辦一個(gè)新部門以建立更有能力的系統(tǒng)、更安全且更負(fù)責(zé)任。
前谷歌大腦人工智能研究員 Brian Kihoon Lee 在今年 1 月大規(guī)模裁員潮中被解雇了，他將這種轉(zhuǎn)變描述為谷歌從「和平時(shí)期」向「戰(zhàn)爭時(shí)期」的轉(zhuǎn)變，一旦競爭變激烈，一切都會(huì)變。在戰(zhàn)時(shí)狀態(tài)，競爭對手的市場份額增長也很關(guān)鍵。
谷歌發(fā)言人 Brian Gabriel 表示：在 2018 年，谷歌建立了內(nèi)部管理結(jié)構(gòu)和全面的審查流程，到目前為止已經(jīng)在各個(gè)產(chǎn)品領(lǐng)域進(jìn)行了數(shù)百次審查。谷歌將繼續(xù)將該流程應(yīng)用于面向外界的基于人工智能的技術(shù)，負(fù)責(zé)任的人工智能仍是公司的首要任務(wù)。
但決定人工智能產(chǎn)品何時(shí)準(zhǔn)備上市的標(biāo)準(zhǔn)不斷變化，也引發(fā)了員工的不安情緒，比如谷歌在決定發(fā)布 Bard 后，調(diào)低了實(shí)驗(yàn)性人工智能產(chǎn)品的測試分?jǐn)?shù)標(biāo)準(zhǔn)，引起了內(nèi)部員工的反對。
2023 年初，谷歌公布了由兩個(gè)人工智能團(tuán)隊(duì)（Responsible Innovation 和 Responsible AI）圍繞 Bard 設(shè)定的約 20 項(xiàng)政策，員工普遍認(rèn)為這些規(guī)定相當(dāng)明確且完善。
也有員工認(rèn)為這些標(biāo)準(zhǔn)制定的更像是給外界表演看的，不如公開訓(xùn)練數(shù)據(jù)或是開源模型，用戶能夠更明確了解模型的能力。
發(fā)論文需審批
谷歌加速研發(fā)的決定對員工來說，喜憂參半。
喜的是，非科研崗位的員工們普遍持樂觀態(tài)度，認(rèn)為該決策可以幫助谷歌重回上風(fēng)。
但對研究人員來說，在發(fā)表相關(guān)人工智能研究成果之前需要獲得額外的批準(zhǔn)，可能意味著研究人員將在快速發(fā)展的生成式人工智能領(lǐng)域錯(cuò)失首發(fā)機(jī)會(huì)。
也有一些人擔(dān)心，谷歌可能會(huì)悄悄壓下有爭議的論文，比如 2020 年由谷歌的道德人工智能團(tuán)隊(duì)領(lǐng)導(dǎo)，Timnit Gebru 和 Margaret Mitchell 共同撰寫的一項(xiàng)關(guān)于大型語言模型危害的研究。
過去一年間，許多頂尖的人工智能研究人員都被初創(chuàng)公司挖走了，部分原因在于谷歌對科研人員成果的不重視和過度審查。
一位前谷歌研究人員表示，獲得論文批準(zhǔn)可能需要高級研究員反復(fù)進(jìn)行嚴(yán)格審查。谷歌承諾了很多科研人員讓他們能夠繼續(xù)參與本領(lǐng)域更廣泛的研究話題，出版限制可能會(huì)讓迫使又一批研究人員出走。
AI 研發(fā)該降速？
谷歌加速發(fā)展之際，也有一些聽起來不是那么和諧的聲音，他們呼吁各大人工智能廠商放慢開發(fā)速度，并且認(rèn)為這項(xiàng)技術(shù)的發(fā)展速度已經(jīng)超出了發(fā)明者的預(yù)期。
深度學(xué)習(xí)先驅(qū) Geoffrey Hinton 稱超級智能人工智能存在逃脫人類控制的危險(xiǎn)，于是離開了谷歌。
消費(fèi)者也逐漸開始了解大型語言模型的風(fēng)險(xiǎn)和局限性，比如人工智能傾向于捏造事實(shí)等，而 ChatGPT 上的小字免責(zé)聲明上并沒有說清楚它的局限性。
基于 ChatGPT 的下游應(yīng)用暴露出了更多問題，例如斯坦福大學(xué)教授 Percy Liang 曾經(jīng)展開過一項(xiàng)研究，新必應(yīng)提供的引用大概只有 70% 是正確的。
5 月 4 日，白宮邀請了谷歌、OpenAI、微軟的首席執(zhí)行官會(huì)面，商討公眾對 AI 技術(shù)的擔(dān)憂，以及如何對 AI 進(jìn)行監(jiān)管。
美國總統(tǒng)拜登在邀請函中明確表示，AI 公司必須確保產(chǎn)品的安全性，然后才能向公眾開放。
參考資料：
https://www.washingtonpost.com/technology/2023/05/04/google-ai-stop-sharing-research
本文來自微信公眾號：新智元 （ID：AI_era）
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。