“2024 ESG 全球領(lǐng)導者大會”于 10 月 16 日-18 日在上海舉行。新浪財經(jīng)歐洲站站長郝倩與知名歷史學家、哲學家、《人類簡史》、《智人之上》作者尤瓦爾?赫拉利展開對話。
尤瓦爾認為，人工智能（AI）的崛起是人類所面臨的一大挑戰(zhàn)。但不可否認的是，人工智能能夠造福人類的觀點同樣存在。在被問題及，在可持續(xù)發(fā)展的社會中，人工智能應(yīng)該扮演什么角色時，尤瓦爾表示，如果能夠防止人工智能失控，確保它能符合人類的價值觀，那么人工智能可能會成為人類歷史上最好的發(fā)明。
“因為到那時，它的巨大力量將服務(wù)于人類社會，而不是危害人類社會”，尤瓦爾舉例說，諸如醫(yī)療保健等領(lǐng)域，目前沒有足夠數(shù)量的醫(yī)生為病人服務(wù)，而人工智能醫(yī)生可以在這方面提供巨大幫助。
此外，尤瓦爾還舉例稱，每年有 100 多萬人死于車禍，其中大多數(shù)事故都是人為失誤造成的，比如酒后駕車或疲勞駕駛。如果人工智能控制自動駕駛，每年就能拯救 100 萬人，盡管人工智能也可能會導致事故，但總數(shù)會少得多。
同樣，在氣候變化方面，人工智能可以幫助人類找到新的能源，找到更好的、可持續(xù)的、管理經(jīng)濟的方法。
“但最大的問題是，如何在享受這些好處的同時防止技術(shù)帶來的巨大危險”，尤瓦爾再次強調(diào)。
談及人工智能的監(jiān)管問題，尤瓦爾強調(diào)，“監(jiān)管非常重要，而且許多國家的政府對此很感興趣”。
他說，由于是新生事物，政府機構(gòu)目前并不確定應(yīng)該如何監(jiān)管人工智能，但有些規(guī)定應(yīng)該是顯而易見的，比如應(yīng)該禁止人工智能假冒人類?！拔覀儦g迎人工智能以醫(yī)生或教師的身份在社交媒體上與我們互動，但它絕不能假裝自己是人類。你在交談時，需要知道交談的對象是人類還是人工智能”，他解釋說，“在社交媒體上，某個推送獲得了大量關(guān)注，有很多用戶點擊。你可能會想，大家都對這個感興趣，我也想了解一下人們正在談?wù)撌裁?。于是你也開始點擊它。實際上，最初推送這則內(nèi)容的并不是人類用戶，而是機器人”。
“所以你需要知道，這不是人類，而是機器人，然后再做決定”，他強調(diào)，禁止人工智能假冒人類是一項重要規(guī)定。“就像各國政府禁止偽造貨幣，以維護人們對貨幣的信任一樣，我們需要禁止偽造人類，以維護人們對人類的信任”。
此外，同樣重要的是，人工智能公司要對其算法的行為負責?！耙?，如果一家公司生產(chǎn)的汽車在工程設(shè)計上存在缺陷，導致發(fā)生事故，造成了人員傷亡，那么對我們來說，這顯然是公司的責任，可能管理者得去坐牢，也可能必須支付一大筆罰款，因為他們是有責任的。如果你生產(chǎn)了一種藥品，而這種藥品有副作用，導致人們患病，那么你的公司顯然要承擔責任”，尤瓦爾說，人工智能算法也應(yīng)如此。如果一家公司研發(fā)了一種功能強大的算法，而它對社會、人類心理或其他方面產(chǎn)生了危險的副作用，那么這家公司就必須承擔責任，必須對它造成的損害負責。
尤瓦爾提醒，人工智能是在不斷學習和變化的，今天的人工智能還只是處于初級階段，我們無法預測未來人工智能可能帶來的所有問題和威脅。因此，我們需要的不僅僅是監(jiān)管，還需要一個可以信賴的機構(gòu)，它應(yīng)該了解人工智能的發(fā)展，并能對其做出快速反應(yīng)。
“你可以把規(guī)章制度看作是我們的牙齒，但在有牙齒之前，你需要先用眼睛看見你要咬的東西”，尤瓦爾說，但目前，有關(guān)人工智能的大部分知識只掌握在少數(shù)國家的少數(shù)公司手中，而世界上大多數(shù)人、甚至大多數(shù)政府都不太了解發(fā)生了什么。
尤瓦爾指出，應(yīng)該像觀測外太空的天文臺那樣，建立起一座全球人工智能發(fā)展的觀測站。它能夠告訴我們實際發(fā)生了什么，尖端技術(shù)是什么，存在什么危險，有哪些機遇。
尤瓦爾說，人工智能領(lǐng)域達成某項全球性協(xié)議是很困難的，因為你不知道對方是否履行了職責。但如果建立起了這座全球人工智能觀測站，不必進行監(jiān)管，只是觀察正在發(fā)生的事情并告知人們，每個政府都可以承諾提供一定的資金來資助這個機構(gòu)。它需要大量資金聘用最優(yōu)秀的人才，引進最先進的技術(shù)，需要龐大的預算，而每個政府都可以承諾提供一定的資金，并很容易核實其他政府是否履行了承諾。
最后，在被問及什么是可持續(xù)發(fā)展社會的關(guān)鍵要素時，尤瓦爾回應(yīng)稱，關(guān)鍵是要更好地了解人類。在其看來，社會發(fā)展最終的目標不是生產(chǎn)人工智能，也不是生產(chǎn)其他東西，而是為了讓人類過上美好、幸福的生活。
“你真正需要了解的是，什么是人們生活中痛苦的根源，以及什么是人類的幸福之源”，他說，將如此多的資金、精力和時間用于發(fā)展技術(shù)和人工智能固然重要，但我們也不應(yīng)忽視對人類的了解和發(fā)展。
“如果我們在開發(fā)人工智能方面每投入一美元或一分鐘，都能在了解和發(fā)展人類和人類思維方面也投入一美元和一分鐘，我想一切都會好起來”，他說。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。