IT之家 3 月 5 日消息，兩位開創(chuàng)性科學(xué)家安德魯?巴托（Andrew Barto）和理查德?薩頓（Richard Sutton）因其在人工智能訓(xùn)練技術(shù)領(lǐng)域的卓越貢獻(xiàn)，今天榮獲了 2024 年圖靈獎。然而他們在領(lǐng)獎之際，卻對當(dāng)前人工智能開發(fā)中的安全隱患表達(dá)了深切擔(dān)憂。
巴托是馬薩諸塞大學(xué)的研究員，而薩頓曾是 DeepMind 的研究科學(xué)家。他們指出，許多人工智能公司在產(chǎn)品尚未經(jīng)過充分測試的情況下便急于推向市場，這種做法無異于“建造一座橋，然后通過讓行人使用來測試其安全性”。
圖靈獎被譽(yù)為“計(jì)算機(jī)界的諾貝爾獎”，獎金高達(dá) 100 萬美元（IT之家備注：當(dāng)前約 726 萬元人民幣），此次巴托和薩頓憑借開發(fā)“強(qiáng)化學(xué)習(xí)”技術(shù)而共同獲獎。強(qiáng)化學(xué)習(xí)是一種通過試錯訓(xùn)練人工智能系統(tǒng)做出優(yōu)化決策的機(jī)器學(xué)習(xí)方法。谷歌高級副總裁杰夫?迪恩（Jeff Dean）稱這一技術(shù)是“人工智能進(jìn)步的關(guān)鍵”，并且一直是推動人工智能發(fā)展的“核心支柱”，包括 OpenAI 的 ChatGPT 和谷歌的 AlphaGo 等突破性模型都受益于此。
巴托在接受《金融時報(bào)》采訪時表示：“在沒有安全措施的情況下向數(shù)百萬用戶發(fā)布軟件，這并不是良好的工程實(shí)踐。工程實(shí)踐的演進(jìn)本應(yīng)是為了減輕技術(shù)可能帶來的負(fù)面影響，但我并未看到開發(fā)人工智能的公司遵循這一原則?！?nbsp;
人工智能開發(fā)的安全性問題早已引起廣泛關(guān)注。被稱為“人工智能教父”的約書亞?本吉奧（Yoshua Bengio）和杰弗里?辛頓（Geoffrey Hinton）也曾對這一問題提出批評，他們同樣是圖靈獎的獲得者。
巴托批評人工智能公司過于“受商業(yè)利益驅(qū)動”，而忽視了人工智能研究的深入發(fā)展。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。