星際日期 24 世紀的 47025.4，星際艦隊的星際機器人中尉指揮官戴塔被他的反叛機器人“兄弟”洛爾征召加入反叛人類的行列 —— 這令企業(yè)號艦長讓-呂克?皮卡德感到非常不安。“碳基生物的統(tǒng)治即將結(jié)束，”洛爾告訴皮卡德，“你，皮卡德，以及像你這樣的人都已經(jīng)過時了?！?/p>
這就是電影中《星際迷航》所表達的樂觀態(tài)度，即機器們至少要三個世紀后才可能廢黜人類。這只是科幻電影中的情形，而在現(xiàn)實生活中，智能機器已經(jīng)邁出了接管世界的第一步，他們的時代已經(jīng)到來。
作為人工智能寬泛概念中的一個較為具體的子領(lǐng)域，機器學習已經(jīng)滲透到了從醫(yī)療診斷到尋找新亞原子粒子等多個人類深耕的領(lǐng)域。深度學習是機器學習最強大的體現(xiàn)，它在語音識別、語言翻譯、圖像識別、汽車駕駛、新材料設(shè)計以及股市趨勢預測等多方面具有應(yīng)用。
計算神經(jīng)科學家塞爾在一篇文章中寫道：“由于計算機可以毫不費力地處理天量數(shù)據(jù)，因此深度學習不光能重塑現(xiàn)代社會，還可能掀起科學革命 —— 主要涵蓋從粒子物理和有機化學到生物學研究和生物醫(yī)學應(yīng)用這樣的學科。”
近些年來，數(shù)量激增的關(guān)于機器學習、深度學習和人工智能的新論文涌入了科學文獻庫當中。這類新研究的綜述涵蓋了醫(yī)療保健、流行病學、材料科學、基礎(chǔ)物理、量子計算、分子作用模擬、流體力學、臨床心理學、經(jīng)濟學、視覺科學以及藥物發(fā)現(xiàn)等領(lǐng)域。
這些綜述著重突出了機器學習目前已經(jīng)取得的重要成就和對后續(xù)可能取得成就的預測，多數(shù)文章也提到了智能機器的局限。比如一些令人印象深刻的正確答案就來源于學習的“捷徑”而非真正的理解。
智能機器也因此顯然容易被誤導出錯。而且，如今大部分所謂的智能機器都局限在某一技能領(lǐng)域，高效應(yīng)對特定的任務(wù)，而非具有人類普遍認知能力的靈活性。比如一臺電腦可以在象棋比賽中戰(zhàn)勝大師，卻不會玩撲克。
計算機學家梅蘭妮?米歇爾在她的書《人工智能：人類思維指南》中寫道：“與人類對比明顯的是，當今大多數(shù)人工智能的‘學習’都不能在相關(guān)任務(wù)之間轉(zhuǎn)化。”
米歇爾解釋道，對人工智能進行真正的探索還有許多障礙 —— 機器仍然不能像（起碼一部分）人類那樣對世界進行全局的思考和推理。
米歇爾說：“人們?nèi)菀赘吖廊斯ぶ悄艿南冗M性而又低估自身智力的復雜性?！睂Τ壷悄軝C器接管世界的恐懼是錯位的，她引用一位行為經(jīng)濟學家的評論：“我們的確應(yīng)該害怕，但不是害怕智能機器，而是對機器在自己智能無法了解的方向進行決定。相比于機器的智能我更害怕機器的智障?！?/p>
機器學習進步迅速
實際上，計算機學家已經(jīng)開發(fā)出了一些相當強大的算法來訓練機器學習。通常這些學習依托各種被稱為神經(jīng)網(wǎng)絡(luò)的計算系統(tǒng)。這些神經(jīng)網(wǎng)絡(luò)是粗略仿照人類大腦神經(jīng)細胞的處理單元。在一個傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)中，一層人工神經(jīng)通過接收的輸入信號來修改與另一層神經(jīng)的關(guān)聯(lián)強度，從而將輸入信號識別傳輸給輸出層。于是人工神經(jīng)網(wǎng)絡(luò)才能夠“學習”將輸入的信號認做一張貓的圖片。
在過去十年左右的時間里，主流的機器學習策略依賴于多層人工神經(jīng)網(wǎng)絡(luò)，這種方法也被稱為深度學習。一臺深度學習的機器可以在模式中識別不同模式，使輸入的分類更加精細，甚至超過專業(yè)人員的能力。一個訓練有素的深度學習系統(tǒng)甚至可以在 CT 掃描中識別出逃過放射科醫(yī)生眼睛的癌癥信號。
在某些系統(tǒng)中，機器學習是“受監(jiān)督的”，這種情況下訓練機器所用的是標記的數(shù)據(jù)；而不受監(jiān)督的學習則意味著訓練機器未被告知所輸入的大數(shù)據(jù)集的含義，電腦自己需要識別出分類或行為的模式。另外有一種叫做強化學習的方法，如果機器能完成某個目標（就像贏得某個游戲），那么在處理輸入時就會受到“獎賞”（比如在某個存儲文件中加分）。強化學習通過在圍棋比賽中幫助機器戰(zhàn)勝了人類從而展示了自己的威力。
機器學習雖然在圍棋上值得一個頭條，但是在醫(yī)藥、工業(yè)和科學等領(lǐng)域取得的實際成就則更令人矚目。
醫(yī)藥方面，機器學習幫助研究人員改進治療效果標準測試的弱點。測試疾病治療效果的醫(yī)學試驗通常依賴于測試結(jié)果平均值來確定有效性，因此可能會錯過對少數(shù)患者有益的成分。比如，某個治療發(fā)現(xiàn)一個減肥項目不會減少糖尿病患者的心臟問題，但是根據(jù)傳染病學家維姆肯和計算機科學家凱利的報道，機器學習算法的確識別出了某一小部分患者在減重過程中心臟問題有所減少。
同時機器學習對于發(fā)現(xiàn)新藥的測試也幫助不少。“深度學習在藥物發(fā)現(xiàn)方法上具有廣泛的應(yīng)用，”化學家朱浩在最近的藥理學和毒理學年度回顧文章中寫道，“在這個大數(shù)據(jù)時代中，最近深度學習所支持的人工智能的進展展現(xiàn)出了藥物發(fā)現(xiàn)領(lǐng)域巨大的前景?！?/p>
與發(fā)現(xiàn)新藥類似，機器學習在發(fā)現(xiàn)工業(yè)應(yīng)用的新材料方面也展現(xiàn)出了生產(chǎn)力：通過機器學習算法可以簡化尋找耐磨耐拉“超硬”材料的過程。材料學家斯巴克斯撰寫的文章中評價道：“這個研究…… 是機器學習在發(fā)現(xiàn)新結(jié)構(gòu)材料扮演重要角色的一個精彩的體現(xiàn)?！?/p>
比起機器智能，我更怕機器智障
除了受到廣泛關(guān)注的實際應(yīng)用外，機器學習也給基礎(chǔ)科學研究提供了便利。在諸如大型強子對撞機（LHC）的高能粒子加速器中，，質(zhì)子相撞會產(chǎn)生包含其他亞原子粒子的復雜粒子流（比如 LHC 于 2012 年發(fā)現(xiàn)的著名的希格斯玻色子），在每秒幾十億質(zhì)子相撞幾百萬次的束流中，科學家需要從中明智地挑選出有價值的內(nèi)容，這相當于在用消防高壓水槍喝水時決定吸入哪些分子，機器學習便可以幫忙在背景噪聲中分辨出有價值的事件。而其他機器算法可以幫助識別撞擊碎片中的粒子。
物理學家蓋斯特及同事說道：“深度學習已經(jīng)影響了 LHC 的數(shù)據(jù)分析，并掀起了一股機器學習和粒子物理學界之間合作的新浪潮?！?/p>
量子物理學家卡利歐在另一篇文章中提到，機器學習的方法在數(shù)據(jù)處理方面的應(yīng)用不只出現(xiàn)在粒子物理領(lǐng)域，還在宇宙學、量子計算等等其他基礎(chǔ)物理研究領(lǐng)域應(yīng)用。
“隨著機器學習技術(shù)在工業(yè)應(yīng)用中的興起，科學家們開始尋找機器學習在基礎(chǔ)研究中的潛力?！笨ɡ麣W和合作者在去年的一篇綜述中寫道。
學習的局限
就如卡利歐和其他綜述作者所強調(diào)的那樣，機器學習也有缺陷，科學家不應(yīng)當被其成就蒙蔽：“對機器學習的潛能和局限性持有行健康和批判性的態(tài)度，包括分析這些方法的突破點以及它們明顯不擅長的地方?！?/p>
一方面，一個機器的“智能”局限于它學習數(shù)據(jù)的性質(zhì)。例如，經(jīng)過訓練的機器可以通過分析人類雇傭決定來篩選求職者，同時也會通過一些歷史歧視數(shù)據(jù)對特定人群產(chǎn)生各種偏見。
即使機器表現(xiàn)不錯，那也只是看上去比較聰明。例如，關(guān)于圖像識別的報告應(yīng)該考慮到，機器的準確性通常是指其前五個“猜想”—— 五個當中如果任何一個識別正確，機器便會獲得嘉獎。
有時候看似智能的機器準確執(zhí)行任務(wù)并非由于它像人類那樣理解，而是機器找出了一個獲得正確答案的捷徑?！耙粋€好像很容易地分辨出牛的深度神經(jīng)網(wǎng)絡(luò)，可能無法認出一頭出現(xiàn)在草場場景以外的牛。”蓋里奧斯和合作者在最近的一篇預印本文章中寫道，在這個例子中“草場”變成了系統(tǒng)識別“?！钡慕輳?。
有時機器又會以紋理而非形狀作為識別對象的捷徑，如果一只貓的圖片通過圖像處理軟件變成具有灰色陰影的浮雕圖像，就可能被機器識別成一頭大象。
這樣的捷徑可能就是機器容易被敵對的欺騙所愚弄的原因。
米歇爾在她的書中評論：“人類偷偷欺騙深度神經(jīng)網(wǎng)絡(luò)令其犯錯出奇容易?！比搜蹠鲆暤脑卺t(yī)學 X 光片上的一點點改變就可能將機器診斷的結(jié)果，從 99% 未患癌癥的置信變?yōu)?99% 存在癌癥的置信。
米歇爾認為，由于人類并不理解機器如何做決定，所以很難解釋這些失誤的出現(xiàn)。在多層深度學習的神經(jīng)網(wǎng)絡(luò)中運算就像在一個黑匣子中運作，人類不能感知，也就難以確定深度學習的運行原理。
她還提到：“由于深度神經(jīng)網(wǎng)絡(luò)做的決定往往難以理解，所以其失誤便很難預測和修復?！?/p>
無論機器到底如何學習，都和人類的方式不同。不只機器智能難以理解，人類智能也是如此?？茖W家只有更完整地理解人類智能，才能研究出更強大的人工智能替代品。所以我們也不必太過擔心戴塔的兄弟洛爾會很快統(tǒng)治人類。
米歇爾分享了軟件企業(yè)家卡普爾說的觀點：“人類只能是一種絕妙、微妙而且探索甚少的現(xiàn)象，目前還沒有任何復制它的危險。”而甚至到 24 世紀可能也是如此。
作者：Tom Siegfried
翻譯：zhenni
審校：藏癡
原文鏈接：Why some AI is smart until it's dumb
本文來自微信公眾號：中科院物理所 （ID：cas-iop），作者：Tom Siegfried
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。