本文來自微信公眾號：SF 中文 （ID：kexuejiaodian），作者：SF
看過電影《黑客帝國》的伙伴可能還記得，在影片中，人類都生活在一個由人工智能控制的世界中，從出生到死亡，都被 AI 安排得明明白白。男主角尼奧和其他覺醒的人類要做的就是推翻 AI 的統(tǒng)治。AI 獲得意識，進而威脅人類，這是科幻作品中常見的橋段。在現(xiàn)實生活中，也有不少人擔心 AI 會擁有意識。
文 | 梅林
今年年初，ChatGPT 的橫空出世點爆了科學(xué)界和輿論，讓 AI 這個此前人們還覺得比較科幻的話題真正走進了我們的生活。
5 月，中國啟動了大模型標準化工作。8 月 31 日，百度、字節(jié)跳動、中國科學(xué)院等 8 家企業(yè)和機構(gòu)的大模型產(chǎn)品成為首批通過《生成式人工智能服務(wù)管理暫行辦法》備案的 AI 大模型，可以正式上線，向公眾提供服務(wù)。
警報！擁有意識的 AI 會威脅人類
AI 的發(fā)展為我們帶來了機遇，也造成了挑戰(zhàn)。一時間，關(guān)于 AI，在輿論場引發(fā)了一場廣泛的爭論。
支持“AI 擁有意識會威脅人類”的一派對此持有悲觀的態(tài)度。他們紛紛發(fā)出警告，聲稱像 GPT（基于轉(zhuǎn)換器的生成式預(yù)訓(xùn)練模型，generative pre-trained transforme）這樣的 AI 工具可能會對人類構(gòu)成威脅。他們中的一些人認為，GPT 可 能 是 點 燃 通 用 人 工 智 能（artifificial general intelligence）誕生之勢的第一個“火花”，而通用人工智能是一種能感知、有意識的機器，它們的智慧可以超越人類。與它們相比，我們?nèi)祟悓⒆兊梦⒉蛔愕馈?/p>
而反對者則認為，目前還沒有任何科學(xué)依據(jù)可以證明，大型語言模型現(xiàn)在具有或者將來會具有主觀體驗、感知能力這樣人類或智力較高的動物才擁有的能力。換句話說，AI 悲觀者們似乎有些杞人憂天了。技術(shù)樂觀者們覺得，AI 完全不具備我們的生命特征 —— 我們通過感官來感知周邊的世界，進而形成意識，而 AI 只是機器，不能同世界產(chǎn)生類似的互動，因而完全不會形成意識。
正如“人工智能之父”、法國計算機科學(xué)家楊立昆（Yann LeCun）所說，現(xiàn)今的 AI 不太可能發(fā)展成通用 AI，所以它們對人類沒有嚴重的威脅。不過，這些持有樂觀觀點的人也確實過于樂觀了 ——AI 對人類的威脅確實存在。
現(xiàn)在的 AI 即便不擁有意識，但也讓一些人放棄了 AI 不擅長，但人類所特有的一部分能力，比如，創(chuàng)作小說。現(xiàn)在，一些 AI 經(jīng)過訓(xùn)練，已經(jīng)能夠幫助人類創(chuàng)作小說。因此，有些作者把創(chuàng)作情節(jié)推進部分的工作交給了 AI，這樣他們就能從費腦的創(chuàng)意性工作中解放出來。長此以往，人類引以為傲的“思考”就完全可由 AI 取代，而我們也將越來越缺乏思考能力。
雙方都有各自的道理：悲觀者的擔心不是沒有道理，比較 AI 如何處理數(shù)據(jù)和信息，做出決策，對于我們來說還是一個“黑盒”，我們現(xiàn)在也無法確認未來 AI 到底會不會擁有意識；而樂觀者的觀點更有現(xiàn)實意義，指出了 AI 與我們?nèi)祟惖谋举|(zhì)差別，也指出了現(xiàn)階段我們依賴 AI 存在的問題。
至于 AI 會不會像《黑客帝國》講述的那樣，成為統(tǒng)治我們?nèi)祟惖摹爸髟住?，還需要科學(xué)家進一步的研究。
如何判斷 AI？
未雨綢繆，一些科學(xué)家在應(yīng)對擁有意識的 AI 方面已經(jīng)走在了前列。近日，一個由 19 位計算機科學(xué)家、神經(jīng)科學(xué)家和哲學(xué)家組成的研究團隊發(fā)表文章（未經(jīng)同行評議）指出，根據(jù)一些人類意識理論，他們提出了用于判斷人工智能是否擁有意識的 14 項標準。
要判斷 AI 是否擁有意識，首先要給意識下一個定義?？茖W(xué)家決定采用紐約大學(xué)的心理學(xué)家內(nèi)德?布洛克（Ned Block）提出的“現(xiàn)象的意識”來定義意識，簡單來說，意識就是主觀感受的體驗，比如你看到了紅色的花，或是感覺到疼痛。
那么怎么去探究 AI 的意識呢？和人類不同，人類可以通過腦電圖或是磁共振成像來檢測大腦信號，進而探究人類的意識。科學(xué)家總不能給 AI 做磁共振成像吧？科學(xué)家反而選擇從人類的意識理論出發(fā)，發(fā)掘出意識最基本的一些標準，然后再在 AI 的底層架構(gòu)中尋找符合這些標準的特征，以此判斷 AI 是否擁有意識。
利用這些標準，科學(xué)家對目前一些主流的 AI 工具，比如 ChatGPT、PaLM-E，進行了測試。他們發(fā)現(xiàn)，目前，沒有任何一個 AI 可以同時滿足多個標準，因此它們都沒有擁有意識，至少現(xiàn)在是這樣。
參考文獻：
https://doi.org/10.48550/arXiv.2308.08708
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。