三位圖靈獎得主 Hinton、Bengio、姚期智，聯(lián)名發(fā)文《在快速發(fā)展的時代管理 AI 風(fēng)險》。
還有 UC 伯克利宋曉東、Pieter Abbeel，清華張亞勤等更多知名學(xué)者合著。
這是一篇共識論文（consensus paper），除 AI 研究者外，還有公共治理方面的學(xué)者，如清華大學(xué)人工智能國際治理研究院薛瀾，以及諾貝爾經(jīng)濟學(xué)獎得主丹尼爾卡尼曼等。
Hinton 認為，公司們正計劃在 18 個月內(nèi)把 AI 模型計算規(guī)模擴大 100 倍，沒人知道這些模型會有多強大，也沒有關(guān)于他們?nèi)绾问褂眠@些模型的規(guī)定。（18 個月 100 倍的計劃來自 InflectionAI）
目前論文公布在獨立域名站點 managing-ai-risks.com，arXiv 版本將在稍后上傳。
正文翻譯
回顧 2019 年，GPT-2 還不能完美地數(shù)數(shù)。
而在短短四年之內(nèi)，深度學(xué)習(xí)技術(shù)已可助力開發(fā)軟件、創(chuàng)造逼真的虛擬環(huán)境、提供專業(yè)的建議，并且讓機器人具備了語言理解能力。
這些系統(tǒng)的進步不斷超越預(yù)期，令人瞠目結(jié)舌。
而接下來的進展或許會更為驚人。
盡管現(xiàn)有的深度學(xué)習(xí)系統(tǒng)尚有不少局限，但各大公司已在爭相研發(fā)能與人類智慧抗衡的通用 AI。他們投入的資源越來越多，創(chuàng)新的技術(shù)日新月異，且 AI 的自我進化能力加速了這一趨勢。
沒有跡象顯示 AI 的進步會在達到人類智慧的水平后停滯。
事實上，在某些特定領(lǐng)域，AI 已經(jīng)超越了人類。它們可以更快地學(xué)習(xí)、處理更多的信息，且在大規(guī)模計算中表現(xiàn)出色，而且可以輕松復(fù)制。
技術(shù)的飛速進展令人震撼。一些科技巨頭有能力將其 AI 訓(xùn)練規(guī)模在短時間內(nèi)增加數(shù)倍?？紤]到 AI 研發(fā)的持續(xù)投入和自我進化的趨勢，通用 AI 在未來十到二十年內(nèi)超越人類的可能性不容忽視。
若被正確和公正地應(yīng)用，先進的 AI 可以為人類解決長久以來的問題，如疾病、貧困和環(huán)境問題。但與此同時，強大的 AI 也帶來了巨大的風(fēng)險，這些風(fēng)險我們還遠未準備好應(yīng)對。我們需要平衡 AI 的能力與安全性。
遺憾的是，我們在調(diào)整策略方面已經(jīng)稍顯落后。我們需要提前預(yù)見并應(yīng)對風(fēng)險，不能等到問題真正出現(xiàn)時再行動。環(huán)境問題就是一個例證，但 AI 發(fā)展的速度意味著我們沒有太多時間可等。
AI 的高速進步對社會帶來了巨大的挑戰(zhàn)。若不加以管理，它們可能加劇社會不平等、威脅社會穩(wěn)定并削弱我們對真實世界的認知。它們甚至可能被用作犯罪工具，或者加劇全球的不平等和沖突。
更令人擔(dān)憂的是，自主 AI 的發(fā)展可能會放大這些風(fēng)險。當(dāng)前的 AI 雖然尚不完全自主，但這一狀態(tài)正在發(fā)生改變。例如，GPT-4 盡管強大，但如果控制了具有自主目標追求的機器人或程序，其行為可能變得難以預(yù)測，且我們可能難以干預(yù)。
為此，我們呼吁全球共同努力，通過技術(shù)、政策和法律手段來規(guī)范自主 AI 的發(fā)展和應(yīng)用。否則，我們可能會面臨一個被 AI 主宰和誤用的未來。
這只是開始。我們急切需要更多的研究和討論來解決這些問題，并希望得到社區(qū)的支持和協(xié)助，以確保 AI 為人類帶來真正的好處，而非威脅。
參考鏈接：
[1] managing-ai-risks.com
[2] https://twitter.com/geoffreyhinton/status/1717967329202491707
本文來自微信公眾號：量子位 （ID：QbitAI），作者：夢晨
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。