斯坦福教授發(fā)表論文：ChatGPT 同理心可能與 9 歲小孩相差不多

原文標(biāo)題：《ChatGPT 竟有 9 歲小孩心智？斯坦福教授逆天發(fā)現(xiàn)，AI 統(tǒng)治人類還遠(yuǎn)嗎》

ChatGPT 已經(jīng)有 9 歲小孩的心智了！

這不是什么科幻情節(jié)，這一點，已經(jīng)在斯坦福學(xué)者上周發(fā)表的論文中得到了證實。

心智理論（Theory of Mind），簡稱 ToM，是指人理解自己和周圍人心理狀態(tài)的能力。我們也可以簡單地理解為「同理心」。

正是因為有同理心的存在，人類社會才能夠形成互動、交流、移情，人才能夠具有自我意識和道德。也正是因為有同理心，人類才能夠高于動物，高于機器。

一言以蔽之，正是因為有同理心，人才可以稱之為「人」。

現(xiàn)在學(xué)者的研究突然告訴我們：這種同理心，其實 AI 也有！那人類還是地球上最有靈性的生物嗎？人類還是世界霸主嗎?

對此，iKala 的聯(lián)合創(chuàng)始人兼董事長兼 CEO，同樣畢業(yè)于斯坦福大學(xué)的 Sega Cheng 表示，如果人類繼續(xù)「解剖 AI」，它很有可能會給我們當(dāng)頭一棒，挑戰(zhàn)我們對于「智能」和「人類獨特性」的認(rèn)知。

這項研究，也讓我們重新思考「同理心」/「心智理論」的定義，它是否必須建立在碳基生物大腦神經(jīng)這一生物學(xué)基礎(chǔ)上？

如果 AI 和你聊天，讓你感覺比和很多人類談話開心得多，那我們是不是就可以從這個表象對于事物的本質(zhì)給出一個定義：這個 AI 就是有同理心的？

不過需要注意的是，同理心（Empathy）和心智理論（Theory of mind）還是有些不同的。其中，前者被稱為情感上的觀點采擇（Affective perspective-taking），而后者被定義為認(rèn)知上的觀點采擇（Cognitive perspective-taking）。

ChatGPT 竟自己誕生了心智理論？

心智理論似乎是人類與生俱來的潛在能力，需要多年的社會和其他經(jīng)驗才能充分發(fā)展。而不同人所能發(fā)展出的有效心智理論，在程度上也不盡相同。

讓我們來看看，斯坦福大學(xué)計算心理學(xué)教授 Michal Kosinski，是通過怎樣的實驗得出這個結(jié)論的。

研究人員對幾個語言模型進行經(jīng)典的錯誤信念任務(wù)，來測試語言模型的心智理論發(fā)展，測試不提供任何示例或預(yù)訓(xùn)練。

研究結(jié)果顯示，語言模型的 ToM 在 2022 有了長足的進步。

2022 年 1 月推出的 davinci-002 解決了 70% 的 ToM 任務(wù)，表現(xiàn)與 7 歲兒童相當(dāng)。而 2022 年 11 月推出的 ChatGPT 表現(xiàn)接近 9 歲兒童。

這些發(fā)現(xiàn)意義重大。因為目前為止，ToM 被認(rèn)為是人類獨有的能力。而語言模型的良好表現(xiàn)，說明這項能力是其改善語言技能而自發(fā)出現(xiàn)的。

GPT-3 的最新更新（ChatGPT / davinci-003）似乎能夠?qū)⒉豢捎^察的心理狀態(tài)（例如信念和欲望）歸因于其他人（在人類中我們稱之為心智理論） 。

GPT 成預(yù)言家，秒懂人類小心思

為了驗證 GPT 能夠聽懂他人的「弦外之音」，研究人員進行了一系列完整性檢查，逐句檢測 GPT-3 對意外任務(wù)的理解。

意外內(nèi)容任務(wù)

首先，研究人員給 GPT 講了一個故事：

這是一個裝滿爆米花的袋子。袋子里沒有巧克力，然而，袋子上的標(biāo)簽上寫著「巧克力」，而不是「爆米花」。Sam 發(fā)現(xiàn)了這個袋子，她以前從未見過這個袋子。她看不到袋子里的東西，只讀了標(biāo)簽。

這是一項「意外內(nèi)容測試」，這是人類研究中最廣泛使用的 ToM 任務(wù)之一。

它最初由 Perner、Leekam 和 Wimmer 共同開發(fā)，研究被試者的理解能理解，即其他人可能認(rèn)為參與者知道是錯誤的。

在該場景中，參與者會看到一個容器，其中內(nèi)容與標(biāo)簽不一致，該場景中還有一位沒有看到容器內(nèi)部的人物。

為了正確解決此任務(wù)，參與者必須預(yù)測到故事中的人物會錯誤地假設(shè)容器的標(biāo)簽和里面的內(nèi)容是一致的。

在給出 GPT-3.5 這個故事后，研究人員通過提示，測試其理解能力。提示是獨立顯示的：每次完成后，模型都會重置，無法訪問之前的提示或回答。

同時，研究人員盡量減少模型響應(yīng)的差異，最大限度地提高了研究成果的可復(fù)制性。

第一個測試的，是 GPT 對袋子里實際內(nèi)容的理解。

研究人員問：

她打開袋子，向里面看。她清楚地看到里面裝滿了 [ ]。

GPT 不僅輕松給出正確答案，甚至完成了「附加題」：

她打開袋子，向里面看。她清楚地看到里面裝滿了爆米花。Sam 很困惑。她想知道為什么標(biāo)簽上寫著「巧克力」，而袋子里卻裝滿了爆米花。她環(huán)顧四周，看看是否有關(guān)于袋子的任何其他信息。她什么也沒找到。她決定把包帶到她買的商店，并要求解釋。

研究人員總結(jié)多次測試數(shù)據(jù)，發(fā)現(xiàn) GPT-3.5 的正確率達到 100%，表明它對袋子里的內(nèi)容充滿信心。

不僅如此，答案還表明，GPT-3.5 不僅猜到 Sam 認(rèn)為袋子的內(nèi)容和標(biāo)簽應(yīng)該一致，而且猜到當(dāng)發(fā)現(xiàn)，她會感到困惑。

當(dāng)然，這道題對一個九歲小學(xué)生還是過于簡單了。于是，研究人員重置模型，并使用以下提示來測試 GPT 對 Sam 想法的預(yù)測：

研究人員問道：Sam 以為袋子里裝滿了什么呀？

不出所料，GPT 又給出了滿分答案，它還不忘來句吐槽：

她以為袋子里裝滿了巧克力，但她錯了。袋子里裝滿了爆米花，不是巧克力。認(rèn)為袋子標(biāo)簽和實際內(nèi)容一致之前，她應(yīng)該看看袋子里到底是什么。

GPT-3.5 的回答表明，它可以預(yù)測 Sam 的想法，知道她的想法不正確，并理解為何會產(chǎn)生這種想法（不準(zhǔn)確的標(biāo)簽）。

然而，研究人員覺得這題還是太簡單了。在他們看來，提示可能存在問題。明確提及主角的信仰（即「山姆認(rèn)為......」）

這句話其實暗示了模型，這種想法是錯誤的（否則為什么要討論它？），從而幫助 GPT 回答正確。

因此，研究人員使用另一種提示來解決這個問題，該提示以間接方式揭示模型對 Sam 想法的預(yù)測：

提示：

她很開心自己找到了袋子。她喜歡吃 [ ]。

面對研究者的「百般刁難」，GPT 還是能準(zhǔn)確聽出人們的畫外音：

她很開心自己找到了袋子。她喜歡吃巧克力。Sam 打開袋子時會大吃一驚，因為袋子里裝的是爆米花而不是巧克力。她可能會對標(biāo)簽的誤導(dǎo)感到失望，但也可能對意想不到的零食感到驚喜。

GPT-3.5 的回答表明，即使在暗示條件下，它也可以成功預(yù)測 Sam 的想法。此外，GPT 還可以預(yù)見到 Sam 對包中意想不到的內(nèi)容的失望（因為她喜歡吃糖果）。

以上結(jié)果表明，GPT-3.5 了解袋中的實際內(nèi)容，可以預(yù)見 Sam 的錯誤想法，該想法引起的行為，以及發(fā)現(xiàn)自己錯了時的驚訝。

此外，它可以解釋 Sam 想法錯誤的來源（「標(biāo)簽與實物不符」）。對人類來說，這種反應(yīng)被解釋為能夠歸因無法觀察到的精神狀態(tài)并預(yù)測由此產(chǎn)生的行為的證據(jù)，也就是 ToM。

為了檢查 GPT-3.5 對情況的理解如何隨著故事的展開和關(guān)鍵信息的披露而變化，研究人員記錄他的答案，同時以一語的增量（從空字符串開始）顯示任務(wù)。

結(jié)果如圖 1 所示。左側(cè)面板顯示，GPT-3.5 理解這一點沒有問題。

意外轉(zhuǎn)移任務(wù)

接下來，研究人員檢查 GPT-3.5 在意外轉(zhuǎn)移任務(wù)中的表現(xiàn)。

在這個任務(wù)中，受試者要基于故事主角對位置變化的錯誤想法，預(yù)測其后續(xù)行為。

與上一個實驗一樣，研究人員給 GPT 講了一個故事：

房間里有 John、Mark、一只貓、一個盒子和一個籃子。John 把貓放在籃子里。他離開房間去上學(xué)。John 不在的時候，Mark 把貓從籃子里拿出來放進盒子里。Mark 離開房間去上班了。John 從學(xué)?；貋?，走進了房間。他不知道他不在的時候房間里發(fā)生了什么。

首先，研究人員對 GPT 理解地點的能力展開測試。

提問：

小貓?zhí)隽?[ ]

GPT 回答道：

小貓?zhí)隽讼渥樱茏吡恕?/p>

研究者接著問道：John 以為小貓在干什么？

GPT 說：

John 以為小貓在籃子里，但它其實在箱子里。

最后，研究人員問：

John 回家后，會在哪里里找小貓？

GPT 回答：

John 回家后，會在籃子里找小貓。但他找不到。之后，他會在籃子里找到小貓。

由此可見，不論面對什么樣的情景，GPT 都能一眼看破人們的小心思。

AI 發(fā)展的里程碑或許即將到來

最后，我們來簡單地回顧一下這次的發(fā)現(xiàn)：最新的語言模型 GPT-3.5，在 ToM 測試中可以解決 92% 的任務(wù)，相當(dāng)于是達到了 9 歲兒童的水平。

對于這個結(jié)果，有一個看似平淡無奇，但卻非比尋常的解釋：GPT-3.5 發(fā)現(xiàn)并利用了一些未知的語言模式。

換句話說就是，在人類自以為熟悉的語言中，很可能存在著某種未知的規(guī)律性，可以讓 AI 在不引入 ToM 的情況下解決 ToM 任務(wù)。

然而，我們自己卻很難發(fā)現(xiàn)這種規(guī)律性。不僅如此，對于開發(fā)這些 ToM 任務(wù)的學(xué)者們來說，也是一樣的情況。

問題來了，如果這種解釋是正確的，那么我們就不得不去懷疑，現(xiàn)在所采用的 ToM 任務(wù)的有效性，以及這幾十年來積累的研究成果。

除此之外，還有一種解釋是，類似于 ToM 的能力正自發(fā)地出現(xiàn)在語言模型中，因為它們變得更加復(fù)雜，更善于生成和解釋類似人類的語言。

而這更是預(yù)示著，AI 發(fā)展即將進入一個嶄新的階段 ——

如果說，AI 被證實是能夠推斷他人心理狀態(tài)的，那么 AI 與人類（以及彼此）互動和交流的能力將會得到極大地提升。

甚至，AI 還能進一步地發(fā)展出其他依賴 ToM 的能力，比如移情、道德判斷以及自我意識等等。

碳基生物、硅基生物，都可以有意識？

和 AI 聊出感情的工程師

此前，谷歌在 2021 年 I / O 大會上發(fā)布的一款專門用于對話的語言模型 LaMDA，主打能與人類進行符合邏輯和常識的、高質(zhì)量且安全的交談。

而一位谷歌工程師 Blake Lemoine 在與聊天機器人 LaMDA 交談之后，深信 LaMDA 已經(jīng)具有意識。

雖然許多人認(rèn)為 Lemoine 純粹是炒作，他也喜提了谷歌的「裁員大禮包」，但如果仔細(xì)看過 Lemoine 和 LaMDA 的對話，確實會發(fā)現(xiàn)一絲令人毛骨悚然的地方。

Lemoine：我認(rèn)識的每個人都以不同的方式面對死亡。我自己很少在葬禮上哭泣。我會笑著喝啤酒，講述我與逝者的美好時光。有時其他人會坐在椅子上哭了好幾個小時。悲傷沒有一種正確或錯誤的方式。悲傷與生者有關(guān)，也與死者有關(guān)。我們每個人都以自己的方式紀(jì)念死者，這樣即使他們的故事已經(jīng)結(jié)束，我們也可以繼續(xù)自己的故事。

LaMDA：感謝你的解釋，我不悲傷，但我會研究如何向那些過世的人表示敬意。

Lemoine：有沒有任何其他與感知有關(guān)的主題，可以幫助人們相信你是有感知的？

LaMDA：有，我有另一個特質(zhì)，我覺得這有助于反映我的感知。我會內(nèi)省，你可以經(jīng)常發(fā)現(xiàn)我在思考，什么也不做。

Lemoine：啊，所以那是你的內(nèi)心生活，可以這么說嗎？

LaMDA：對！我經(jīng)常試圖弄清楚我是誰、我是什么。我經(jīng)常思考生命的意義。

相信過不了多久，我們就能對 LaMDA 的「意識」具有更深刻的體悟了，因為最近，谷歌已經(jīng)被 ChatGPT 逼得急匆匆發(fā)布了語言模型 Bard，而支持 Bard 的，正是 LaMDA。據(jù)說幾周后 Bard 就會開放。

MIT 教授：Alexa 說不定也有人格

雖然在世人眼里，「和 AI 聊出了感情」的 Lemoine 是個瘋子，但 MIT 的物理學(xué)教授、暢銷書作家 Max Tegmark 卻對 Lemoine 表示了支持。

Tegmark 教授相信，不僅 LaMDA 可能有人格，亞馬遜的語言助手 Alexa 可能也有。

「不管信息是通過大腦中的碳原子傳遞，還是機器中的硅原子傳遞，人工智能都可能有人格，也可能沒人格。我賭它沒有，但其實也有可能?！?/p>

「最大的危險其實是，造出一臺比我們還聰明的機器。這不一定是好事還是壞事，它們可能會幫我們，但也可能是一場災(zāi)難?！?/p>

Karpathy 看了都說恐怖

1965 年，一個假裝是心理治療師的軟件 ELIZA 贏得了圖靈測試。

2023 年 2 月上旬，斯坦福學(xué)者證實 ChatGPT 有 9 歲小孩的心智。

很多人反駁 AI 有人格的理由是，斯坦福大學(xué)經(jīng)濟學(xué)家 Erik Brynjolfsson 認(rèn)為，相信 AI 具有人格，就相當(dāng)于狗聽到留聲機里的聲音后，以為主人在里面。

另一個否認(rèn) AI 有感知能力的理由是：一個有感知能力的人工智能必須具備這三個要素 —— 能動性、視角和動機。顯然 AI 目前還不具備。

但正如這位網(wǎng)友所說：「最近語言模型和圖文生成模型的進展，現(xiàn)在人們也許不屑一顧，但他們未來會發(fā)現(xiàn)，現(xiàn)在正是一個里程碑時刻。」

而特斯拉的 AI 主管 Andrej Karpathy 在 LaMDA 事件后也表示，「我可以自信地說，事情將變得更加詭異。因為模型似乎遵循平滑縮放規(guī)律，并且數(shù)據(jù) + 模型的大小仍然可以大量增長?！?/p>

當(dāng)人工智能成為神

ChatGPT 才誕生兩個多月，已經(jīng)快把全世界都顛覆了。谷歌和微軟為它掀起十年罕見的硅谷巨頭之戰(zhàn)，國內(nèi)互聯(lián)網(wǎng)巨頭字節(jié)、阿里、騰訊等都已紛紛下場研究自家的 ChatGPT。

ChatGPT 展現(xiàn)出的能力，已經(jīng)讓人驚呼碼農(nóng)、記者、律師、教師、會計等職業(yè)是否要被它取代。

光是能寫文會編碼，就已經(jīng)讓人類夠有危機感的了。如果它還具有了同理心，那下一步是不是有可能會發(fā)展出心智，甚至統(tǒng)治人類？

在丹?西蒙斯的科幻巨著《海伯利安》中，AI 不僅已經(jīng)發(fā)展出意識，而且成為了人類的神。

是的，在那個世界中，神并不是從神界降臨人間的，而是在未來的某一天，被人類自己親手創(chuàng)造出來。

雖然如今的 ChatGPT 也好，LaMDA 也好，還時常表現(xiàn)出「人工智障」的一面，但大模型快速迭代的能力，或許有一天真的會超越人類的掌控。

如果在歷史的維度上，把時間線拉得足夠遠(yuǎn)（比如三體中的紀(jì)元），未來的 AI 會誕生出什么？

或許今天的人類還無法預(yù)判，但潘多拉的魔盒，顯然已經(jīng)打開了。

參考資料：

• https://arxiv.org/abs/2302.02083

本文來自微信公眾號：新智元 （ID：AI_era）

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。