撰文：王飛躍 中國自動化學(xué)會監(jiān)事長、中國科學(xué)院自動化研究所復(fù)雜系統(tǒng)管理與控制國家重點實驗室主任
當(dāng)今最好的人工智能程序到底有多智能？它們是如何工作的？能做些什么？我們有必要擔(dān)心機器比人類聰明且將很快奪取我們的工作嗎？以上這些問題都頗受人們的關(guān)注。
“廣義歌德爾定理”
“GEB”的作者侯世達(dá)教授在谷歌的一次內(nèi)部研討會上表示自己被人工智能的快速發(fā)展“嚇壞了”開始。更具體地說，侯世達(dá)是被“音樂智能實驗”（Experiments in Musical Intelligence，EMI）的優(yōu)美創(chuàng)作嚇壞了，他曾這樣說道：“我被 EMI 嚇壞了，完全嚇壞了。我厭惡它，并感受到了極大的威脅 —— 人工智能對我最珍視之人性的威脅。我認(rèn)為 EMI 是我對人工智能感到恐懼的最典型的實例?！蔽以犝f過侯世達(dá)對人工智能的擔(dān)憂，但當(dāng)時不以為然，我認(rèn)為一個對人工智能了解如此之深、認(rèn)識如此之深刻的學(xué)者不應(yīng)過度害怕智能技術(shù)。
作為一個堅信人工智能只是一項技術(shù)，不會主動侵害人類的科技工作者，我當(dāng)時覺得這可能是由于侯世達(dá)遠(yuǎn)離科研一線太久或年紀(jì)增長的原因，但書中侯世達(dá)的自白，讓我認(rèn)識到我的猜測都不對，真正的原因在于音樂在他的心里有著一種十分神圣甚至神秘的地位。
在“GEB”一書的最后，侯世達(dá)曾列出關(guān)于人工智能的“十大問題和猜想”，其中第一個就是關(guān)于音樂的。那時他認(rèn)為計算機可以譜寫出優(yōu)美的音樂，但并不會很快實現(xiàn)，因為音樂是一種關(guān)于情感的語言，在程序能夠擁有我們?nèi)祟愃鶕碛械倪@種復(fù)雜的情感之前，它絕無可能譜寫出任何優(yōu)美的作品。我認(rèn)為，侯世達(dá)由此對人工智能產(chǎn)生的“恐懼”是中國藝術(shù)家潘公凱“錯構(gòu)”理論的一種典型的體現(xiàn)，它不是一種在理性或技術(shù)層面的反應(yīng)，而是一種本然的藝術(shù)或哲學(xué)性的反映。對此，我希望結(jié)合智能研究的起源以及我一直提倡的“廣義歌德爾定理”來說明我的看法。
近代以來，人們對智能的認(rèn)識源自數(shù)學(xué)家希爾伯特（D。Hilbert）的夢想，即數(shù)學(xué)推理機械化的“希爾伯特綱領(lǐng)”。伯特蘭?羅素（Bertrand Russell）與阿爾弗雷德?懷德海（Alfred N。Whitehead）為了給這一夢想奠定堅實的基石，二人花了 10 年的心血成就了一部三卷本的《數(shù)學(xué)原理》。但是不久，這基石就讓三個年輕人擊碎。先是歌德爾證明了不完備定理，接著圖靈提出了圖靈機，并將計算的本質(zhì)歸于機械的操作，進而約翰?馮?諾依曼（John von Neumann）建立了數(shù)字計算機的邏輯操作結(jié)構(gòu)。自此，我們有了現(xiàn)代計算機，并開始了人工智能研究，成就了今日之信息產(chǎn)業(yè)“舊”IT （information technology，信息技術(shù) ），目前，已開始邁向智能產(chǎn)業(yè)“新”IT （intelligent technology，智能技術(shù) ）。在這一智能的計算化過程中，從邱奇 - 圖靈論題（Church-Turing thesis）開始，在諾依曼有意無意的引導(dǎo)下，學(xué)界關(guān)于智能的思考和認(rèn)識逐漸形成了兩個派別：“圖靈派”和“歌德爾派”。
圖靈派本質(zhì)上是計算主義，認(rèn)為基于簡單規(guī)則的計算可以涌現(xiàn)出復(fù)雜的行為和智能。從物理符號系統(tǒng)的邏輯智能到聯(lián)結(jié)主義的計算智能，這一思想主導(dǎo)了人工智能至今的發(fā)展歷史，是構(gòu)建智能系統(tǒng)的主要理論和方法源泉。歌德爾派認(rèn)為根本沒有構(gòu)建智能的一般規(guī)律和方法，而且現(xiàn)有的一些規(guī)律和方法不應(yīng)成為第一性的，只有動因和信念才是本質(zhì)，接受現(xiàn)狀繼續(xù)演化是發(fā)展人工智能的唯一途徑。歌德爾派在人工智能的研究上至今并沒有產(chǎn)生很大的影響，然而，在理解智能的影響和意義方面，歌德爾派的認(rèn)識則非常重要，而且對智能科學(xué)的未來發(fā)展更具有指導(dǎo)性意義。
歌德爾認(rèn)為，存在先于可計算的不可計算，即存在不可計算的客觀存在。存在不可計算的物理、生命和數(shù)學(xué)過程，且計算機不能真正理解語言和想象等相關(guān)的活動。研究人工智能的第一位華人學(xué)者王浩晚年曾致力于歌德爾的思想與哲學(xué)的研究，他總結(jié)道：“歌德爾認(rèn)為機器不可能超越人腦，除非數(shù)學(xué)不是人類發(fā)明的。而且，就算數(shù)學(xué)不是人類發(fā)明的，機器還是無法超越人腦?！?/p>
我曾把歌德爾關(guān)于智能的思想總結(jié)為“廣義歌德爾定理”，即智能分為算法智能（algorithmic intelligence，AI）、語言智能（linguistic intelligence，LI）和想象智能（imaginative intelligence，II）三個層面，算法智能無法超越語言智能，語言智能又無法超越想象智能。正如歌德爾在普林斯頓高等研究院的同事愛因斯坦所言：“智能的真正標(biāo)識不是知識，而是想象?！?/p>
我們可以從兩個方向來理解廣義歌德爾定理：一是圖靈的想法，即 AI 的全體和極限是 LI，LI 的全體和極限是 II ；二是 II 的局部和具體化是 LI，而 LI 的局部和具體化是 AI。計算機的智能只能是 AI，無法達(dá)到人類所具有的 LI 和 II 層面。歌德爾對智能的認(rèn)識及理解與中國哲學(xué)史上人們對《道德經(jīng)》開頭的兩種不同解讀十分相似：一是“道可道，非常道”，即凡是能被言說的道，就不再是永恒的本源之道，就像世上每一個能被看到的具體的圓形，都無法符合圓形的抽象定義一樣；二是“道，可道，非常道”，即道有三種形態(tài)，自然中可執(zhí)行的道（算法之道）、只能說出來的道（語言之道）、只能想象出來的道（想象之道）?？傊?，“道”一經(jīng)說出，就不是本來的自然之道了。
哲學(xué)家伏爾泰曾說：“定義你的術(shù)語…… 否則我們將永遠(yuǎn)無法相互理解?！比欢拔牡挠懻撌刮覀冋J(rèn)識到，即便有了定義，我們在語言和想象層面上可能也無法徹底理解。在人工智能領(lǐng)域，“智能”“思維”“意識”“認(rèn)知”“情感”等術(shù)語很難定義，且至今沒有達(dá)成共識。這也正是 20 世紀(jì)的科學(xué)哲學(xué)家托馬斯?庫恩（Thomas Kuhn）在其“3C”理論中所闡述的：在人類語言詞典及其多維結(jié)構(gòu)里，我們進入一種本質(zhì)上不可公度、不可比較、不可交流的境地。或許，在量子力學(xué)中的“薛定諤的貓”或海森堡的“測不準(zhǔn)原理”之外，我們在智能的 AI、LI、II 層面上是否分別存在各自的“算不清原理”“說不明原理”“想不準(zhǔn)原理”？
回到侯世達(dá)對人工智能的“過激反應(yīng)”這一問題，我想再用世界圍棋高手柯潔的例子加以說明。在李世石以 1∶4 輸給 AlphaGo 之后，柯潔發(fā)表了迫不及待想要挑戰(zhàn) AlphaGo 的聲明：“就算 AlphaGo 戰(zhàn)勝了李世石，但它贏不了我。”在以 0∶3 的比分負(fù)于 AlphaGo 之后，柯潔渾身顫抖，只想大聲痛哭，認(rèn)為 AlphaGo 實在太完美了，并稱它就是“上帝”。我記得在《時代》雜志上首次看到這一報道時，我的第一反應(yīng)就是：“上帝？誰的上帝？反正不是我的上帝?！痹谖铱磥?，柯潔的反應(yīng)與侯世達(dá)是一樣的，是專業(yè)執(zhí)著后的應(yīng)激錯構(gòu)，我們沒有因為柯潔的失利而對 AlphaGo 感到畏懼，也無須因侯世達(dá)而對人工智能感到擔(dān)憂。實際上，我認(rèn)為，對這類問題進行持續(xù)深入的討論應(yīng)是哲學(xué)家或有閑階級培養(yǎng)智能科學(xué)素質(zhì)的腦力練習(xí)，專業(yè)人員更應(yīng)關(guān)注探索人工智能技術(shù)及應(yīng)用的合法、合規(guī)、合理與合情問題。
廣義杰文斯悖論
討論完對人工智能的“恐懼”之后，我們再來看看人工智能對人類工作的沖擊。近年來，在這方面總有許多令人擔(dān)憂的言論，如“機器取代人”“人工智能將使 50%~70% 的人失業(yè)”，有些世界著名的科學(xué)家和企業(yè)家甚至聲稱人工智能的興起意味著人類文明的終結(jié)。
正如哲學(xué)家黑格爾所揭示的：歷史給我們的教訓(xùn)是，人們從來都不知道汲取歷史的教訓(xùn)。實際上，人類在過去 100 多年內(nèi)至少經(jīng)歷了三次這種擔(dān)心，這就是“老”“舊”“新”三次 IT 變革。當(dāng)年，人們對老 IT（工業(yè)技術(shù)）的擔(dān)心遠(yuǎn)大于今天我們對新 IT（智能技術(shù)）的擔(dān)心。在工業(yè)革命的發(fā)源地英國，紡織工業(yè)誘發(fā)“羊吃人”現(xiàn)象，女王擔(dān)心機器的大規(guī)模使用將使她的臣民變成乞丐，民眾更是揭竿而起，干脆一把火將機器燒了。
70 多年前，諾伯特?維納的控制論和數(shù)字計算機的出現(xiàn)開啟了舊 IT（信息技術(shù)）的變革，又一次引發(fā)社會對機器取代人類工作的擔(dān)心。為此，維納還發(fā)表了《人有人的用處》（The Human Use of Human Beings ）來專門討論這一問題，其中特別強調(diào)“信息永遠(yuǎn)不能取代啟迪”（Information will never replace illumination。）。啟迪是語言和想象的核心功能，因此機器及其生產(chǎn)的代碼與信息根本無法取代人類，而且，計算機還為“機器取代人”做了一個絕好的說明。20 世紀(jì) 50 年代之前，英文中“computer”一詞其實是指從事計算工作的人類，但今天作為機器的“computer”已經(jīng)完全代替了作為人類的“computer”；然而，被稱為“computer”的機器，不但沒有使人類大規(guī)模失業(yè)，而且還為人類創(chuàng)造了更好、更多的新工作，比如程序員、架構(gòu)師、算法工程師、網(wǎng)絡(luò)管理員，等等。事實勝于“恐”辯，盡管機器可能造成一定程度的短暫的社會錯位，使一些人失去工作，但不會造成人類的大規(guī)模失業(yè)，相反，機器能夠創(chuàng)造出更多、更好、適合人類的工作，推動社會進步。
其實，這個問題在 100 多年前就已被研究清楚，這就是著名的“杰文斯悖論”（Jevons paradox）。威 廉姆?斯坦利?杰文斯（William Stanley Jevons）是 19 世紀(jì)英國的數(shù)學(xué)家、哲學(xué)家和經(jīng)濟學(xué)家，現(xiàn)代經(jīng)濟學(xué)中的邊際效用理論的主要奠基人。在英國工業(yè)革命時期，工業(yè)大量消耗煤資源并產(chǎn)生了嚴(yán)重的污染，引發(fā)了利用技術(shù)提高燃煤效率的討論，但杰文斯的研究表明：燒煤效率越高，耗煤量將會越大。這就是杰文斯悖論：技術(shù)進步可以提高自然資源的利用效率，但結(jié)果是增加而不是減少人們對這種資源的需求，因為效率的提高會導(dǎo)致生產(chǎn)規(guī)模的擴大，這會進一步刺激需要。
計算機的“機器取代人”的例子說明廣義的杰文斯悖論也成立：技術(shù)進步可以提高人力資源的利用效率，但結(jié)果是增加而不是減少社會對人力資源的需求，因為效率的提高將導(dǎo)致生產(chǎn)規(guī)模的擴大。計算機的確完全消滅了名為“computer”的職業(yè)，使其變成了一種真正的機器，但同時也擴大了社會對計算機生產(chǎn)、操作等相關(guān)人員的需求。還有很多這方面的例子，比如全球定位系統(tǒng)取代了許多測量工作崗位，但卻產(chǎn)生了更多基于位置的服務(wù)（location based services，LBS）的相關(guān)工作以及導(dǎo)航算法工程師等崗位；機器學(xué)習(xí)取代了很多統(tǒng)計員，但卻增加了更多不同的數(shù)據(jù)工程師工種?？梢灶A(yù)見的是，隨著智能技術(shù)的發(fā)展，這類例子將會越來越多。
我們相信，表面上以取代人力為目標(biāo)的智能技術(shù)，將產(chǎn)生更多更適合人類的新的工作崗位，例如學(xué)習(xí)工程師、決策工程師、法務(wù)工程師，等等。智能技術(shù)可能會將今日之“碼農(nóng)”解放出來，使其變成明日之“智農(nóng)”，成為“人機結(jié)合，知行合一，虛實一體”的“合一體”智慧員工。如此一來，維納所說的：“人有人的用途，機有機的用處”將會實現(xiàn)。
未來智能的方向與體系
40 多年前，侯世達(dá)在“GEB”之末提出了關(guān)于智能的十大問題和猜想，吸引了年輕的米歇爾轉(zhuǎn)行隨其學(xué)習(xí)和研究人工智能?，F(xiàn)在，米歇爾也在其著作的結(jié)語中也提出了當(dāng)下人工智能領(lǐng)域備受關(guān)注的六個問題及其答案或推測，這本質(zhì)上也是對未來智能技術(shù)發(fā)展的探討與期望。我個人更是堅信人工智能必須從長期占據(jù)主導(dǎo)地位的邏輯智能（AI 1.0）和近 20 年來作為主力的計算智能（AI 2.0），向人機混合、虛實交互的平行智能（AI 3.0）邁進。
未來的智能科技，必須將人以新的方式置于核心地位，切實落實“人有人用，機有機用”的根本原則。社會物理信息系統(tǒng)（cyber- physical- social systems，CPSS）將成為智能系統(tǒng)的基礎(chǔ)設(shè)施，進而保證 數(shù)據(jù)之力、計算之力、算法之力、網(wǎng)絡(luò)之力和區(qū)塊鏈之力能夠“五力合一”，使智能科技能上“真”[TRUE=trust（可信）+reliable（可靠）+useful（有用）+effective（有效）] 之“ 道 ”[DAO=distributed/decentralized（去中心化的）+automated/autonomous（自動的）+organized/ordered（有序的）=decentralized autonomous organizations（分權(quán)自治組織）]，實現(xiàn)系統(tǒng)學(xué)習(xí)和系統(tǒng)智能，邁向智能組織和智慧社會。
政治哲學(xué)家和經(jīng)濟學(xué)者弗里德里希?哈耶克（Friedrich Hayek）曾說：“科學(xué)走過了頭，自由將無容身之地?！蓖恚悄茉竭^了界，人性將無處安身。如何保證人工智能不越界？根據(jù)廣義哥德爾定理，我們不是不相信智能技術(shù)，我們只是不相信智能技術(shù)背后的人類。因此，人工智能的合法合規(guī)，必須依靠人類本身的文明和法制保證，智能科技只能起輔助作用。人類社會發(fā)展的歷史告訴我們，隨著技術(shù)的發(fā)展，我們需要越來越多的法務(wù)工作者。將來，或許罪犯會非常少，但“智警”或“法務(wù)工程師”會成為智慧社會的重要從業(yè)人員，遠(yuǎn)多于普通的警察和法官。這是隨智能產(chǎn)業(yè)發(fā)展而來的智慧社會的可能形態(tài)，也是我們研發(fā)新一代人工智能應(yīng)該考慮的問題。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。