北京時(shí)間 9 月 9 日上午消息，據(jù)報(bào)道，去年 9 月，谷歌的云計(jì)算部門(mén)考慮使用人工智能幫助一家金融公司決定向誰(shuí)借錢(qián)。
經(jīng)過(guò)數(shù)周的內(nèi)部討論后，他們拒絕了客戶的提議，認(rèn)為該項(xiàng)目在道德上過(guò)于冒險(xiǎn)，因?yàn)槿斯ぶ悄芗夹g(shù)可能會(huì)在種族和性別等因素上延續(xù)偏見(jiàn)。
自去年年初以來(lái)，由于擔(dān)心對(duì)文化因素不夠敏感，谷歌還放棄了分析情感的新型人工智能功能，微軟也限制了模仿聲音的軟件，IBM 則拒絕了客戶對(duì)高級(jí)面部識(shí)別系統(tǒng)的請(qǐng)求。
根據(jù)對(duì)這三大美國(guó)科技巨頭人工智能倫理負(fù)責(zé)人的采訪，所有這些技術(shù)都是公司的高管小組或其他領(lǐng)導(dǎo)人親手干預(yù)的。
這是媒體首次披露他們針對(duì)這些技術(shù)行使的否決權(quán)和審議過(guò)程，這也反映出整個(gè)行業(yè)涌現(xiàn)出一股新生力量，可以在追求利潤(rùn)豐厚的人工智能系統(tǒng)與加大社會(huì)責(zé)任考量之間達(dá)成平衡。
“有機(jī)會(huì)，也有傷害，我們的工作是最大限度地增加機(jī)會(huì)，并最大限度地減少傷害?！碧乩孜?皮佐?弗雷 (Tracy Pizzo Frey）說(shuō)，他是谷歌云的兩個(gè)道德委員會(huì)成員，還是谷歌人工智能社會(huì)責(zé)任負(fù)責(zé)人。
但判斷起來(lái)并非易事。
例如，微軟的首席人工智能責(zé)任官娜塔莎?克蘭普頓（Natasha Crampton）表示，微軟的語(yǔ)音模仿技術(shù)可以讓聾啞人重新“發(fā)聲”，但同時(shí)也會(huì)加大政治深度造假等風(fēng)險(xiǎn)，因此必須在二者之間找到平衡點(diǎn)。
激進(jìn)人士表示，可能對(duì)社會(huì)產(chǎn)生廣泛影響的決定不應(yīng)單獨(dú)在企業(yè)內(nèi)部決定。他們認(rèn)為，道德委員會(huì)不可能做到真正獨(dú)立，他們的公開(kāi)透明度受到競(jìng)爭(zhēng)壓力的限制。
歐洲公民自由聯(lián)盟的宣傳負(fù)責(zé)人賈斯查?加拉斯基（Jascha Galaski）認(rèn)為外部監(jiān)督是未來(lái)的趨勢(shì)，美國(guó)和歐洲政府確實(shí)正在為這個(gè)剛剛起步的領(lǐng)域制定規(guī)則。
如果企業(yè)的人工智能倫理委員會(huì)“真的變得獨(dú)立透明 —— 這都是非常烏托邦主義的 —— 那可能好于任何其他解決方案，但我認(rèn)為這不現(xiàn)實(shí)?！奔永够f(shuō)。
兩家公司表示，他們歡迎對(duì)人工智能的使用方式進(jìn)行明確監(jiān)管，這對(duì)于客戶和公眾的信心都至關(guān)重要。從這一點(diǎn)來(lái)講，這與汽車(chē)安全規(guī)則類(lèi)似。他們說(shuō)，在具體行事過(guò)程中充分考慮各種責(zé)任，也符合他們的經(jīng)濟(jì)利益。
然而，他們希望任何規(guī)則都能足夠靈活，從而跟上創(chuàng)新步伐及其造成的最新困境。
IBM 表示，該公司的人工智能倫理委員會(huì)正在考慮許多復(fù)雜問(wèn)題，包括如何監(jiān)管一個(gè)新興領(lǐng)域：將計(jì)算機(jī)與大腦相連的植入物和可穿戴設(shè)備。
IBM 首席隱私官克里斯蒂娜?蒙哥馬利（Christina Montgomery）表示，這種神經(jīng)技術(shù)可以幫助殘疾人控制身體運(yùn)動(dòng)，但也存在許多隱憂，例如黑客有可能借此操縱人的思想。
情緒識(shí)別
科技公司承認(rèn)，就在 5 年前，當(dāng)他們剛剛推出聊天機(jī)器人和照片標(biāo)記等人工智能服務(wù)時(shí)，幾乎沒(méi)有任何道德保障，只能通過(guò)后續(xù)更新解決濫用問(wèn)題或有偏見(jiàn)的結(jié)果。
但隨著人工智能因?yàn)槭《媾R越來(lái)越多的政治和公眾審查，微軟（2017 年）、谷歌（2018 年）和 IBM（2018 年）相繼成立了道德委員會(huì)，從一開(kāi)始就新服務(wù)進(jìn)行審查。
谷歌表示，去年 9 月，當(dāng)一家金融服務(wù)公司認(rèn)為人工智能比其他方法更適合評(píng)估人們的信用時(shí)，它便陷入了“放貸困境”。
該項(xiàng)目似乎非常適合谷歌云，谷歌的人工智能技術(shù)有助于檢測(cè)異常交易，因而吸引了德意志銀行、匯豐銀行和紐約梅隆銀行等客戶。
谷歌云預(yù)計(jì)基于人工智能的信用評(píng)分可能會(huì)成為一個(gè)每年價(jià)值數(shù)十億美元的市場(chǎng)，他們希望在其中站穩(wěn)腳跟。
然而，皮佐?弗雷透露，該部門(mén)的道德委員會(huì)由大約 20 名負(fù)責(zé)審查潛在交易的經(jīng)理、社會(huì)科學(xué)家和工程師組成，他們?cè)谌ツ?10 月的會(huì)議上一致投票反對(duì)該項(xiàng)目。
該委員會(huì)總結(jié)道，人工智能系統(tǒng)需要從過(guò)去的數(shù)據(jù)和模式中學(xué)習(xí)，因此有可能模仿世界各地對(duì)有色人種和其他邊緣群體的歧視性做法。
更重要的是，在內(nèi)部被稱作“檸檬水”（Lemonaid）的委員會(huì)制定了一項(xiàng)政策，規(guī)定在此類(lèi)問(wèn)題得到解決之前，放棄所有與信譽(yù)相關(guān)的金融服務(wù)交易。
“檸檬水”過(guò)去一年駁回了三項(xiàng)類(lèi)似的提議，其中包括一家信用卡公司和一家商業(yè)貸款機(jī)構(gòu)，而皮佐?弗雷和負(fù)責(zé)銷(xiāo)售的同事一直渴望就這個(gè)問(wèn)題制定更廣泛的規(guī)定。
谷歌還表示，該公司的云計(jì)算業(yè)務(wù)還有第二個(gè)名為“冰茶”（Ice Tea）倫理委員會(huì)，他們今年正在審查 2015 年發(fā)布的一項(xiàng)服務(wù)，將人們的照片按喜悅、悲傷、憤怒和驚訝四種表情分類(lèi)。
在此之前，谷歌總公司的道德委員會(huì)，即高級(jí)技術(shù)審查委員會(huì)（ATRC）剛剛作出裁決，禁止推出與識(shí)別情感有關(guān)的新服務(wù)。
谷歌責(zé)任創(chuàng)新團(tuán)隊(duì)的創(chuàng)始人兼負(fù)責(zé)人珍?吉耐（Jen Gennai）表示，由十多位高管和工程師組成的 ATRC 明確認(rèn)定，推斷情緒的技術(shù)不夠敏感，其中一個(gè)原因是，在不同文化中，面部線索與具體感受存在著不同的關(guān)聯(lián)。
吉耐和皮佐?弗雷表示，“冰茶”已經(jīng)封殺了云工具的對(duì) 13 種情緒判斷，包括尷尬和滿足，并且可能很快會(huì)完全放棄這項(xiàng)服務(wù)，轉(zhuǎn)而采用一種新系統(tǒng)，屆時(shí)只會(huì)對(duì)皺眉和微笑等動(dòng)作進(jìn)行描述，而不加以解讀。
聲音和面孔
與此同時(shí)，微軟人工智能高管克蘭普頓表示，微軟開(kāi)發(fā)的軟件可以利用一個(gè)簡(jiǎn)短的樣本重現(xiàn)某人的聲音，但該公司的敏感用法委員會(huì)花了兩年多時(shí)間，針對(duì)與此有關(guān)的道德問(wèn)題進(jìn)行辯論，并咨詢了公司總裁布拉德?史密斯（Brad Smith）。
她說(shuō)，該委員會(huì)包含人權(quán)、數(shù)據(jù)科學(xué)和工程等領(lǐng)域的專家，他們最終為 Custom Neural Voice 今年 2 月全面發(fā)布開(kāi)了綠燈。但對(duì)它的使用設(shè)置了限制，包括確認(rèn)受試者的同意聲明，并且根據(jù)公司的相關(guān)政策培訓(xùn)了一個(gè)“負(fù)責(zé)任的人工智能冠軍”（Responsible AI Champs）團(tuán)隊(duì)。
IBM 的人工智能委員會(huì)大約包含 20 名部門(mén)領(lǐng)導(dǎo)，在新冠疫情初期，當(dāng)客戶要求定制面部識(shí)別技術(shù)，以識(shí)別發(fā)燒情況和面部遮蓋物時(shí)，他們陷入了困境。
該委員會(huì)聯(lián)席主席蒙哥馬利表示，他們拒絕了這個(gè)要求，認(rèn)定人工檢查足以減少對(duì)隱私的侵犯，因?yàn)檎掌粫?huì)被保留到任何人工智能數(shù)據(jù)庫(kù)中。
6 個(gè)月后，IBM 宣布停止提供面部識(shí)別服務(wù)。
壯志未酬
為了保護(hù)隱私和其他自由，歐盟和美國(guó)的立法者希望加大對(duì)人工智能系統(tǒng)的控制。
歐盟的人工智能法案有望于明年通過(guò)，該法案將禁止在公共場(chǎng)所進(jìn)行實(shí)時(shí)人臉識(shí)別，并要求科技公司審查高風(fēng)險(xiǎn)應(yīng)用，例如用于招聘、信用評(píng)分和執(zhí)法的應(yīng)用。
美國(guó)國(guó)會(huì)議員比爾?福斯特（Bill Foster）曾就算法如何加劇金融服務(wù)和住房領(lǐng)域的歧視舉行聽(tīng)證會(huì)，他表示，針對(duì)人工智能出臺(tái)新的法律將為供應(yīng)商營(yíng)造一個(gè)公平的市場(chǎng)。
“當(dāng)你要求一家公司為了社會(huì)利益減少利潤(rùn)時(shí)，他們會(huì)說(shuō)，‘我們的股東怎么辦？怎么不處罰競(jìng)爭(zhēng)對(duì)手？’所以才需要細(xì)致的監(jiān)管，”這位來(lái)自伊利諾伊州的民主黨人說(shuō)。
“可能有些領(lǐng)域非常敏感，你會(huì)看到科技公司有意不去涉足，直到有明確的規(guī)則出現(xiàn)?！?/p>
事實(shí)上，一些人工智能的進(jìn)步可能會(huì)被擱置，直到企業(yè)能在不投入大量工程資源的情況下應(yīng)對(duì)道德風(fēng)險(xiǎn)。
在谷歌云去年 10 月拒絕為金融公司定制人工智能服務(wù)后，“檸檬水”委員會(huì)告訴銷(xiāo)售團(tuán)隊(duì)，該部門(mén)的目標(biāo)是有朝一日能開(kāi)發(fā)與信貸相關(guān)的應(yīng)用程序。
谷歌云在發(fā)給員工的政策中表示，首先，必須通過(guò)研究來(lái)打擊不公平的偏見(jiàn)，以此匹配谷歌云通過(guò)“高度敏感”的技術(shù)提高金融包容性的雄心壯志。
“在那之前，我們無(wú)法部署解決方案。”
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。