北京時(shí)間 6 月 2 日下午消息，據(jù)報(bào)道，谷歌近日向外界表示，它仍堅(jiān)定致力于以合乎道德規(guī)范的方式進(jìn)行人工智能研究。該公司還做出承諾，將把人工智能研究人員數(shù)量增加一倍，達(dá)到 200 人。谷歌首席執(zhí)行官皮查伊也表示，將為更多符合倫理規(guī)范的人工智能項(xiàng)目提供資金支持。
六個(gè)月前，谷歌的人工智能倫理明星研究員蒂姆尼特?格布魯（Timnit Gebru）遭到解雇，原因是她在一篇學(xué)術(shù)論文中對(duì)谷歌的一項(xiàng)人工智能技術(shù)提出了倫理質(zhì)疑。今年五月份，谷歌人工智能負(fù)責(zé)人杰夫?迪安（Jeff Dean）表示，盡管格布魯離職事件影響到了谷歌的聲譽(yù)，但人們需要向前看。
然而，對(duì)谷歌人工智能倫理團(tuán)隊(duì)的部分成員來說，現(xiàn)實(shí)與谷歌高管的公開宣示卻有所不同。該團(tuán)隊(duì)是谷歌新成立的一個(gè)人工智能分支研究機(jī)構(gòu)，共有成員十人，主要任務(wù)是研究人工智能如何影響社會(huì)。根據(jù)成員的反映，該團(tuán)隊(duì)幾個(gè)月來一直處于一種前途未卜的狀態(tài)。團(tuán)隊(duì)成員懷疑，公司是否能在學(xué)術(shù)界重建信譽(yù)，以及公司領(lǐng)導(dǎo)是否會(huì)聽取團(tuán)隊(duì)的建議。目前，兩位團(tuán)隊(duì)領(lǐng)導(dǎo)已經(jīng)離職，而谷歌尚未聘請(qǐng)到合適的繼任者。許多成員感到職業(yè)前景不穩(wěn)定，一些人開始考慮離開谷歌，準(zhǔn)備去其他科技公司工作或者重返學(xué)術(shù)界。
谷歌人工智能部門的發(fā)言人已拒絕就人工智能倫理團(tuán)隊(duì)的事情發(fā)表評(píng)論。
谷歌的研究機(jī)構(gòu)擁有數(shù)千研究人員，但專門研究人工智能倫理的僅有十人。人工智能倫理團(tuán)隊(duì)以發(fā)表了有關(guān)人工智能訓(xùn)練數(shù)據(jù)集的算法公平性的開創(chuàng)性論文而聞名于世。該團(tuán)隊(duì)為谷歌在學(xué)術(shù)界建立起了學(xué)術(shù)聲譽(yù)，證明谷歌有能力進(jìn)行前沿、有時(shí)甚至是批判性的研究 —— 這對(duì)谷歌來說非常重要。畢竟，每天都有幾十億人依賴谷歌的產(chǎn)品來遨游互聯(lián)網(wǎng)，而該公司的核心產(chǎn)品，比如搜索引擎，正越來越依賴人工智能。
雖然人工智能在癌癥診斷、地震探測(cè)和與人類交互方面具有改變世界的潛力，但這一正處飛速發(fā)展階段的技術(shù)也會(huì)有可能擴(kuò)大對(duì)女性和少數(shù)族裔的偏見，對(duì)個(gè)人隱私構(gòu)成威脅，以及導(dǎo)致碳排放的增加。谷歌為此建立了一個(gè)審查程序，用以確定新的人工智能技術(shù)是否符合其在 2018 年提出的人工智能倫理原則。在這一背景下，人工智能倫理團(tuán)隊(duì)的職責(zé)是幫助谷歌尋找公司在人工智能領(lǐng)域的盲點(diǎn)，確保公司負(fù)責(zé)任地開發(fā)和應(yīng)用人工智能技術(shù)。然而，人工智能倫理專家格布魯?shù)碾x職引發(fā)了巨大的爭(zhēng)議，并導(dǎo)致了人工智能倫理團(tuán)隊(duì)的人事動(dòng)蕩。一些學(xué)者開始擔(dān)心，谷歌在開發(fā)有可能改變世界的人工智能新技術(shù)時(shí)，可能無法充分處理公司內(nèi)部的倫理反饋意見。
例如，今年 5 月，谷歌發(fā)布了一款新的皮膚病人工智能檢測(cè)應(yīng)用程序，但這款應(yīng)用程序引發(fā)了批評(píng)，因?yàn)樗幸粋€(gè)明顯的缺點(diǎn)：它在測(cè)試數(shù)據(jù)中大大低估了較淺膚色與較深膚色的對(duì)比。如果在發(fā)布前能事先咨詢一下人工智能倫理團(tuán)隊(duì)，這一問題原本有可能加以避免。
在過去的幾個(gè)月里，谷歌倫理研究團(tuán)隊(duì)的領(lǐng)導(dǎo)層一直處于持續(xù)動(dòng)蕩的狀態(tài)。在短短幾個(gè)月的時(shí)間里，該團(tuán)隊(duì)繼格布魯研究員離職后，又先后失去了兩位領(lǐng)導(dǎo)人。今年 2 月，谷歌解雇了梅格?米切爾（Meg Mitchell），正是她負(fù)責(zé)創(chuàng)建了谷歌人工智能倫理團(tuán)隊(duì)，并與格布魯共同領(lǐng)導(dǎo)該團(tuán)隊(duì)。到了 4 月份，米切爾和格布魯?shù)闹苯宇I(lǐng)導(dǎo)、頂尖人工智能科學(xué)家薩米?本吉奧（Samy Bengio）也宣布辭職。本吉奧曾向外界表示，他對(duì)格布魯?shù)慕饴毟械健罢痼@”。本吉奧是谷歌大腦研究部門的負(fù)責(zé)人，谷歌人工智能倫理團(tuán)隊(duì)正是在其領(lǐng)導(dǎo)下開展工作。從谷歌離職后，他將領(lǐng)導(dǎo)蘋果公司一個(gè)新建立的人工智能研究團(tuán)隊(duì)。
2 月中旬，谷歌任命前工程副總裁瑪麗安?克勞克（Marian Croak）為新成立的人工智能責(zé)任部門（Responsible AI Department）的負(fù)責(zé)人，人工智能倫理團(tuán)隊(duì)也劃歸該部門管理。然而，克勞克的行政級(jí)別太高，因此并不直接參與該團(tuán)隊(duì)的日常運(yùn)作。
這樣一來，人工智能倫理團(tuán)隊(duì)的運(yùn)作就變得比較尷尬。他們不得不向上述已經(jīng)離職的領(lǐng)導(dǎo)人尋求非正式的工作指導(dǎo)和研究建議。團(tuán)隊(duì)成員搭建了臨時(shí)的組織架構(gòu)，讓每位成員輪流負(fù)責(zé)每周的部門會(huì)議。他們還自行指定了兩名研究人員，定期與谷歌其他團(tuán)隊(duì)溝通，以讓他們了解團(tuán)隊(duì)的最新成果。由于谷歌在全球雇用了超過 13 萬名員工，對(duì)像人工智能倫理團(tuán)隊(duì)這樣的小團(tuán)體來講，一般很難知道他們的工作成果是否真正應(yīng)用到了公司的產(chǎn)品中。
過去的半年對(duì)該團(tuán)隊(duì)的新成員來說顯得尤其困難，他們有時(shí)甚至不知道該如何領(lǐng)取自己的薪水，以及如何才能訪問谷歌的內(nèi)部研究工具。一些團(tuán)隊(duì)成員在看到格布魯和米切爾的遭遇后，開始覺得他們正在從事的工作有風(fēng)險(xiǎn)，擔(dān)心如果以后他們的工作成果也引發(fā)了爭(zhēng)議，那么他們也可能會(huì)被解雇。
克勞克是一位有成就的工程研究領(lǐng)導(dǎo)人，但在人工智能倫理領(lǐng)域經(jīng)驗(yàn)不足。在與人工智能倫理團(tuán)隊(duì)的會(huì)面中，她試圖向員工保證，她是團(tuán)隊(duì)的盟友?？藙诳耸枪雀杓?jí)別最高的黑人高管之一。在谷歌，黑人女性只占員工總數(shù)的 1.2%。她承認(rèn)，谷歌在改善員工種族和性別多樣性方面缺乏進(jìn)展。據(jù)幾位研究人員稱，克勞克在與人工智能倫理團(tuán)隊(duì)的會(huì)面中，也向團(tuán)隊(duì)成員表達(dá)了歉意，對(duì)團(tuán)隊(duì)目前的困境表示感同身受。
然而，又有消息稱，這位高管與人工智能倫理團(tuán)隊(duì)的關(guān)系還是出現(xiàn)了問題，因?yàn)樗麄冇X得她只是做出了一些空洞的承諾。在克勞克被正式任命為人工智能責(zé)任部門負(fù)責(zé)人之前幾周，她就已經(jīng)與人工智能倫理團(tuán)隊(duì)的成員進(jìn)行了非正式的交流，討論如何修復(fù)對(duì)團(tuán)隊(duì)造成的損害。然后，人工智能倫理團(tuán)隊(duì)的成員共同起草了一封信，提出了包括對(duì)團(tuán)隊(duì)進(jìn)行“結(jié)構(gòu)改革”在內(nèi)的一些建議。谷歌后來確實(shí)對(duì)團(tuán)隊(duì)進(jìn)行了重組，并將團(tuán)隊(duì)劃歸新組建的人工智能責(zé)任部門管理。然而，團(tuán)隊(duì)成員是公司內(nèi)部最后得知此事的人。因此，當(dāng)團(tuán)隊(duì)成員得到消息時(shí)，他們是一臉的懵逼。團(tuán)隊(duì)成員對(duì)此感到很不滿，認(rèn)為重組過程與他們?nèi)狈贤?，不尊重他們?/p>
一些團(tuán)隊(duì)成員對(duì)自己在谷歌的未來感到悲觀，并開始懷疑是否真正擁有展開研究所必需的自由環(huán)境。他們要求谷歌公開承諾學(xué)術(shù)自由，并澄清其學(xué)術(shù)研究審查程序。截至目前，谷歌尚未對(duì)這些要求有所回應(yīng)。此外，團(tuán)隊(duì)成員還希望谷歌向已經(jīng)離職的格布魯和米切爾道歉，并向她們?cè)俅翁峁┕ぷ鳈C(jī)會(huì) —— 但目前看來，這些要求極不可能實(shí)現(xiàn)。而且，格布魯也已經(jīng)表示，即使谷歌再次向她提供工作機(jī)會(huì)，她也不會(huì)回來。
一些團(tuán)隊(duì)成員表示，他們正在考慮離開公司。在競(jìng)爭(zhēng)激烈的人工智能領(lǐng)域，頂尖研究人員可以拿到七位數(shù)的薪水，如果這些人員離職，那將是谷歌的一個(gè)巨大損失。
現(xiàn)在，谷歌在學(xué)術(shù)研究領(lǐng)域的地位正變得岌岌可危。到目前為止，谷歌是科技行業(yè)最大的研究資助者之一 —— 它去年在研發(fā)領(lǐng)域投入了 270 多億美元，這甚至超過了美國(guó)宇航局（NASA）的年度預(yù)算。但谷歌人工智能倫理團(tuán)隊(duì)近期出現(xiàn)的這些爭(zhēng)議性事件，讓一些學(xué)者質(zhì)疑，谷歌的讓研究人員自由開展研究的承諾，是否已被公司的商業(yè)利益所束縛。
數(shù)千名計(jì)算機(jī)科學(xué)教授和研究人員曾簽署了一份請(qǐng)?jiān)笗u(píng)谷歌解雇格布魯?shù)呐e動(dòng)，稱之為“前所未有的學(xué)術(shù)研究審查”。谷歌的人工智能高管心里很清楚，谷歌已經(jīng)失去了學(xué)術(shù)界的信任。迪恩在今年 2 月的一次員工研究會(huì)議上發(fā)表評(píng)論稱，重建信任的策略是“繼續(xù)發(fā)表‘非常有趣’的前瞻性工作”。他說，“重新獲得人們的信任需要一點(diǎn)時(shí)間?！?/p>
然而，重建信任所需的時(shí)間恐怕不止“一點(diǎn)”。加拿大安大略西部大學(xué)（Western University）的研究人員盧克?斯塔克（Luke Stark）評(píng)論說：“我認(rèn)為，目前谷歌基本上是無法挽回其在學(xué)術(shù)界的聲譽(yù)的，至少中期來看是如此?！彼顾俗罱€拒絕了谷歌的六萬美元的不受限制資助，以抗議格布魯?shù)谋黄入x職。據(jù)報(bào)道，他是有史以來第一個(gè)拒絕谷歌研究資助的學(xué)者。此外，還有另外兩個(gè)人工智能研究團(tuán)體也已經(jīng)表示將拒絕谷歌的任何資助。
目前，至少有四名谷歌員工，包括一名工程總監(jiān)和一名人工智能研究人員，已經(jīng)離開公司，并且是以格布魯被解雇作為辭職理由。當(dāng)然，這些離職僅代表了一個(gè)大群體中的少數(shù)人。其他人選擇留下是因?yàn)樗麄內(nèi)匀幌嘈攀虑闀?huì)有轉(zhuǎn)機(jī)。一位不屬于人工智能倫理團(tuán)隊(duì)的員工表示，他和同事們強(qiáng)烈反對(duì)谷歌解雇格布魯?shù)臎Q定，但他們也覺得，留下來繼續(xù)做有意義的工作是他們的責(zé)任。
對(duì)谷歌如何處理人工智能的倫理問題表示擔(dān)憂的遠(yuǎn)不止學(xué)術(shù)界，監(jiān)管機(jī)構(gòu)也開始關(guān)注此事。去年 12 月，9 名國(guó)會(huì)議員致函谷歌，要求谷歌就格布魯被解雇一事作出解釋。頗具影響力的族裔正義組織“Color of Change”也呼吁，對(duì)谷歌解雇格布魯一事所可能存在的種族歧視展開外部調(diào)查。
這些外部團(tuán)體正密切關(guān)注谷歌人工智能部門內(nèi)部發(fā)生的事情。他們意識(shí)到人工智能將在人類生活中發(fā)揮越來越大的影響。幾乎所有主要的科技公司，包括谷歌在內(nèi)，都將人工智能視為現(xiàn)代世界的一項(xiàng)關(guān)鍵性技術(shù)?；诜磯艛嗟目紤]，谷歌已經(jīng)成為了政治上的熱門話題，谷歌人工智能部門正面臨著很高的政治風(fēng)險(xiǎn)。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。