星際日期 24 世紀(jì)的 47025.4，星際艦隊(duì)的星際機(jī)器人中尉指揮官戴塔被他的反叛機(jī)器人“兄弟”洛爾征召加入反叛人類的行列 —— 這令企業(yè)號(hào)艦長(zhǎng)讓-呂克?皮卡德感到非常不安?！疤蓟锏慕y(tǒng)治即將結(jié)束，”洛爾告訴皮卡德，“你，皮卡德，以及像你這樣的人都已經(jīng)過(guò)時(shí)了?！?/p>
這就是電影中《星際迷航》所表達(dá)的樂(lè)觀態(tài)度，即機(jī)器們至少要三個(gè)世紀(jì)后才可能廢黜人類。這只是科幻電影中的情形，而在現(xiàn)實(shí)生活中，智能機(jī)器已經(jīng)邁出了接管世界的第一步，他們的時(shí)代已經(jīng)到來(lái)。
作為人工智能寬泛概念中的一個(gè)較為具體的子領(lǐng)域，機(jī)器學(xué)習(xí)已經(jīng)滲透到了從醫(yī)療診斷到尋找新亞原子粒子等多個(gè)人類深耕的領(lǐng)域。深度學(xué)習(xí)是機(jī)器學(xué)習(xí)最強(qiáng)大的體現(xiàn)，它在語(yǔ)音識(shí)別、語(yǔ)言翻譯、圖像識(shí)別、汽車駕駛、新材料設(shè)計(jì)以及股市趨勢(shì)預(yù)測(cè)等多方面具有應(yīng)用。
計(jì)算神經(jīng)科學(xué)家塞爾在一篇文章中寫道：“由于計(jì)算機(jī)可以毫不費(fèi)力地處理天量數(shù)據(jù)，因此深度學(xué)習(xí)不光能重塑現(xiàn)代社會(huì)，還可能掀起科學(xué)革命 —— 主要涵蓋從粒子物理和有機(jī)化學(xué)到生物學(xué)研究和生物醫(yī)學(xué)應(yīng)用這樣的學(xué)科?！?/p>
近些年來(lái)，數(shù)量激增的關(guān)于機(jī)器學(xué)習(xí)、深度學(xué)習(xí)和人工智能的新論文涌入了科學(xué)文獻(xiàn)庫(kù)當(dāng)中。這類新研究的綜述涵蓋了醫(yī)療保健、流行病學(xué)、材料科學(xué)、基礎(chǔ)物理、量子計(jì)算、分子作用模擬、流體力學(xué)、臨床心理學(xué)、經(jīng)濟(jì)學(xué)、視覺(jué)科學(xué)以及藥物發(fā)現(xiàn)等領(lǐng)域。
這些綜述著重突出了機(jī)器學(xué)習(xí)目前已經(jīng)取得的重要成就和對(duì)后續(xù)可能取得成就的預(yù)測(cè)，多數(shù)文章也提到了智能機(jī)器的局限。比如一些令人印象深刻的正確答案就來(lái)源于學(xué)習(xí)的“捷徑”而非真正的理解。
智能機(jī)器也因此顯然容易被誤導(dǎo)出錯(cuò)。而且，如今大部分所謂的智能機(jī)器都局限在某一技能領(lǐng)域，高效應(yīng)對(duì)特定的任務(wù)，而非具有人類普遍認(rèn)知能力的靈活性。比如一臺(tái)電腦可以在象棋比賽中戰(zhàn)勝大師，卻不會(huì)玩撲克。
計(jì)算機(jī)學(xué)家梅蘭妮?米歇爾在她的書《人工智能：人類思維指南》中寫道：“與人類對(duì)比明顯的是，當(dāng)今大多數(shù)人工智能的‘學(xué)習(xí)’都不能在相關(guān)任務(wù)之間轉(zhuǎn)化?！?/p>
米歇爾解釋道，對(duì)人工智能進(jìn)行真正的探索還有許多障礙 —— 機(jī)器仍然不能像（起碼一部分）人類那樣對(duì)世界進(jìn)行全局的思考和推理。
米歇爾說(shuō)：“人們?nèi)菀赘吖廊斯ぶ悄艿南冗M(jìn)性而又低估自身智力的復(fù)雜性?！睂?duì)超級(jí)智能機(jī)器接管世界的恐懼是錯(cuò)位的，她引用一位行為經(jīng)濟(jì)學(xué)家的評(píng)論：“我們的確應(yīng)該害怕，但不是害怕智能機(jī)器，而是對(duì)機(jī)器在自己智能無(wú)法了解的方向進(jìn)行決定。相比于機(jī)器的智能我更害怕機(jī)器的智障?！?/p>
機(jī)器學(xué)習(xí)進(jìn)步迅速
實(shí)際上，計(jì)算機(jī)學(xué)家已經(jīng)開(kāi)發(fā)出了一些相當(dāng)強(qiáng)大的算法來(lái)訓(xùn)練機(jī)器學(xué)習(xí)。通常這些學(xué)習(xí)依托各種被稱為神經(jīng)網(wǎng)絡(luò)的計(jì)算系統(tǒng)。這些神經(jīng)網(wǎng)絡(luò)是粗略仿照人類大腦神經(jīng)細(xì)胞的處理單元。在一個(gè)傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)中，一層人工神經(jīng)通過(guò)接收的輸入信號(hào)來(lái)修改與另一層神經(jīng)的關(guān)聯(lián)強(qiáng)度，從而將輸入信號(hào)識(shí)別傳輸給輸出層。于是人工神經(jīng)網(wǎng)絡(luò)才能夠“學(xué)習(xí)”將輸入的信號(hào)認(rèn)做一張貓的圖片。
在過(guò)去十年左右的時(shí)間里，主流的機(jī)器學(xué)習(xí)策略依賴于多層人工神經(jīng)網(wǎng)絡(luò)，這種方法也被稱為深度學(xué)習(xí)。一臺(tái)深度學(xué)習(xí)的機(jī)器可以在模式中識(shí)別不同模式，使輸入的分類更加精細(xì)，甚至超過(guò)專業(yè)人員的能力。一個(gè)訓(xùn)練有素的深度學(xué)習(xí)系統(tǒng)甚至可以在 CT 掃描中識(shí)別出逃過(guò)放射科醫(yī)生眼睛的癌癥信號(hào)。
在某些系統(tǒng)中，機(jī)器學(xué)習(xí)是“受監(jiān)督的”，這種情況下訓(xùn)練機(jī)器所用的是標(biāo)記的數(shù)據(jù)；而不受監(jiān)督的學(xué)習(xí)則意味著訓(xùn)練機(jī)器未被告知所輸入的大數(shù)據(jù)集的含義，電腦自己需要識(shí)別出分類或行為的模式。另外有一種叫做強(qiáng)化學(xué)習(xí)的方法，如果機(jī)器能完成某個(gè)目標(biāo)（就像贏得某個(gè)游戲），那么在處理輸入時(shí)就會(huì)受到“獎(jiǎng)賞”（比如在某個(gè)存儲(chǔ)文件中加分）。強(qiáng)化學(xué)習(xí)通過(guò)在圍棋比賽中幫助機(jī)器戰(zhàn)勝了人類從而展示了自己的威力。
機(jī)器學(xué)習(xí)雖然在圍棋上值得一個(gè)頭條，但是在醫(yī)藥、工業(yè)和科學(xué)等領(lǐng)域取得的實(shí)際成就則更令人矚目。
醫(yī)藥方面，機(jī)器學(xué)習(xí)幫助研究人員改進(jìn)治療效果標(biāo)準(zhǔn)測(cè)試的弱點(diǎn)。測(cè)試疾病治療效果的醫(yī)學(xué)試驗(yàn)通常依賴于測(cè)試結(jié)果平均值來(lái)確定有效性，因此可能會(huì)錯(cuò)過(guò)對(duì)少數(shù)患者有益的成分。比如，某個(gè)治療發(fā)現(xiàn)一個(gè)減肥項(xiàng)目不會(huì)減少糖尿病患者的心臟問(wèn)題，但是根據(jù)傳染病學(xué)家維姆肯和計(jì)算機(jī)科學(xué)家凱利的報(bào)道，機(jī)器學(xué)習(xí)算法的確識(shí)別出了某一小部分患者在減重過(guò)程中心臟問(wèn)題有所減少。
同時(shí)機(jī)器學(xué)習(xí)對(duì)于發(fā)現(xiàn)新藥的測(cè)試也幫助不少?！吧疃葘W(xué)習(xí)在藥物發(fā)現(xiàn)方法上具有廣泛的應(yīng)用，”化學(xué)家朱浩在最近的藥理學(xué)和毒理學(xué)年度回顧文章中寫道，“在這個(gè)大數(shù)據(jù)時(shí)代中，最近深度學(xué)習(xí)所支持的人工智能的進(jìn)展展現(xiàn)出了藥物發(fā)現(xiàn)領(lǐng)域巨大的前景。”
與發(fā)現(xiàn)新藥類似，機(jī)器學(xué)習(xí)在發(fā)現(xiàn)工業(yè)應(yīng)用的新材料方面也展現(xiàn)出了生產(chǎn)力：通過(guò)機(jī)器學(xué)習(xí)算法可以簡(jiǎn)化尋找耐磨耐拉“超硬”材料的過(guò)程。材料學(xué)家斯巴克斯撰寫的文章中評(píng)價(jià)道：“這個(gè)研究…… 是機(jī)器學(xué)習(xí)在發(fā)現(xiàn)新結(jié)構(gòu)材料扮演重要角色的一個(gè)精彩的體現(xiàn)?！?/p>
比起機(jī)器智能，我更怕機(jī)器智障
除了受到廣泛關(guān)注的實(shí)際應(yīng)用外，機(jī)器學(xué)習(xí)也給基礎(chǔ)科學(xué)研究提供了便利。在諸如大型強(qiáng)子對(duì)撞機(jī)（LHC）的高能粒子加速器中，，質(zhì)子相撞會(huì)產(chǎn)生包含其他亞原子粒子的復(fù)雜粒子流（比如 LHC 于 2012 年發(fā)現(xiàn)的著名的希格斯玻色子），在每秒幾十億質(zhì)子相撞幾百萬(wàn)次的束流中，科學(xué)家需要從中明智地挑選出有價(jià)值的內(nèi)容，這相當(dāng)于在用消防高壓水槍喝水時(shí)決定吸入哪些分子，機(jī)器學(xué)習(xí)便可以幫忙在背景噪聲中分辨出有價(jià)值的事件。而其他機(jī)器算法可以幫助識(shí)別撞擊碎片中的粒子。
物理學(xué)家蓋斯特及同事說(shuō)道：“深度學(xué)習(xí)已經(jīng)影響了 LHC 的數(shù)據(jù)分析，并掀起了一股機(jī)器學(xué)習(xí)和粒子物理學(xué)界之間合作的新浪潮?！?/p>
量子物理學(xué)家卡利歐在另一篇文章中提到，機(jī)器學(xué)習(xí)的方法在數(shù)據(jù)處理方面的應(yīng)用不只出現(xiàn)在粒子物理領(lǐng)域，還在宇宙學(xué)、量子計(jì)算等等其他基礎(chǔ)物理研究領(lǐng)域應(yīng)用。
“隨著機(jī)器學(xué)習(xí)技術(shù)在工業(yè)應(yīng)用中的興起，科學(xué)家們開(kāi)始尋找機(jī)器學(xué)習(xí)在基礎(chǔ)研究中的潛力。”卡利歐和合作者在去年的一篇綜述中寫道。
學(xué)習(xí)的局限
就如卡利歐和其他綜述作者所強(qiáng)調(diào)的那樣，機(jī)器學(xué)習(xí)也有缺陷，科學(xué)家不應(yīng)當(dāng)被其成就蒙蔽：“對(duì)機(jī)器學(xué)習(xí)的潛能和局限性持有行健康和批判性的態(tài)度，包括分析這些方法的突破點(diǎn)以及它們明顯不擅長(zhǎng)的地方。“
一方面，一個(gè)機(jī)器的“智能”局限于它學(xué)習(xí)數(shù)據(jù)的性質(zhì)。例如，經(jīng)過(guò)訓(xùn)練的機(jī)器可以通過(guò)分析人類雇傭決定來(lái)篩選求職者，同時(shí)也會(huì)通過(guò)一些歷史歧視數(shù)據(jù)對(duì)特定人群產(chǎn)生各種偏見(jiàn)。
即使機(jī)器表現(xiàn)不錯(cuò)，那也只是看上去比較聰明。例如，關(guān)于圖像識(shí)別的報(bào)告應(yīng)該考慮到，機(jī)器的準(zhǔn)確性通常是指其前五個(gè)“猜想”—— 五個(gè)當(dāng)中如果任何一個(gè)識(shí)別正確，機(jī)器便會(huì)獲得嘉獎(jiǎng)。
有時(shí)候看似智能的機(jī)器準(zhǔn)確執(zhí)行任務(wù)并非由于它像人類那樣理解，而是機(jī)器找出了一個(gè)獲得正確答案的捷徑?！耙粋€(gè)好像很容易地分辨出牛的深度神經(jīng)網(wǎng)絡(luò)，可能無(wú)法認(rèn)出一頭出現(xiàn)在草場(chǎng)場(chǎng)景以外的牛?！鄙w里奧斯和合作者在最近的一篇預(yù)印本文章中寫道，在這個(gè)例子中“草場(chǎng)”變成了系統(tǒng)識(shí)別“?！钡慕輳健?/p>
有時(shí)機(jī)器又會(huì)以紋理而非形狀作為識(shí)別對(duì)象的捷徑，如果一只貓的圖片通過(guò)圖像處理軟件變成具有灰色陰影的浮雕圖像，就可能被機(jī)器識(shí)別成一頭大象。
這樣的捷徑可能就是機(jī)器容易被敵對(duì)的欺騙所愚弄的原因。
米歇爾在她的書中評(píng)論：“人類偷偷欺騙深度神經(jīng)網(wǎng)絡(luò)令其犯錯(cuò)出奇容易?！比搜蹠?huì)忽視的在醫(yī)學(xué) X 光片上的一點(diǎn)點(diǎn)改變就可能將機(jī)器診斷的結(jié)果，從 99% 未患癌癥的置信變?yōu)?99% 存在癌癥的置信。
米歇爾認(rèn)為，由于人類并不理解機(jī)器如何做決定，所以很難解釋這些失誤的出現(xiàn)。在多層深度學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)中運(yùn)算就像在一個(gè)黑匣子中運(yùn)作，人類不能感知，也就難以確定深度學(xué)習(xí)的運(yùn)行原理。
她還提到：“由于深度神經(jīng)網(wǎng)絡(luò)做的決定往往難以理解，所以其失誤便很難預(yù)測(cè)和修復(fù)。”
無(wú)論機(jī)器到底如何學(xué)習(xí)，都和人類的方式不同。不只機(jī)器智能難以理解，人類智能也是如此。科學(xué)家只有更完整地理解人類智能，才能研究出更強(qiáng)大的人工智能替代品。所以我們也不必太過(guò)擔(dān)心戴塔的兄弟洛爾會(huì)很快統(tǒng)治人類。
米歇爾分享了軟件企業(yè)家卡普爾說(shuō)的觀點(diǎn)：“人類只能是一種絕妙、微妙而且探索甚少的現(xiàn)象，目前還沒(méi)有任何復(fù)制它的危險(xiǎn)?！倍踔恋?24 世紀(jì)可能也是如此。
作者：Tom Siegfried
翻譯：zhenni
審校：藏癡
原文鏈接：Why some AI is smart until it's dumb
本文來(lái)自微信公眾號(hào)：中科院物理所 （ID：cas-iop），作者：Tom Siegfried
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。