設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

Meta 工程師:明年全球 AI 推理用電量僅需新增兩座核電站即可滿足

2023/11/14 16:02:04 來源:IT之家 作者:遠(yuǎn)洋 責(zé)編:遠(yuǎn)洋

IT之家 11 月 14 日消息,Meta 生成式人工智能工程總監(jiān)謝爾蓋?埃杜諾夫近日在硅谷數(shù)字工人論壇上分享了他對人工智能推理需求的預(yù)測。他認(rèn)為,明年全球新增的人工智能應(yīng)用推理需求,如果使用合理規(guī)模的語言模型,僅需兩座核電站的發(fā)電量就可以滿足。

圖源 Pexels

人工智能推理是指利用已經(jīng)訓(xùn)練好的人工智能模型,在實(shí)際場景中進(jìn)行各種任務(wù),如生成文本、回答問題、識別圖像等。埃杜諾夫表示,他通過簡單的數(shù)學(xué)計(jì)算,估計(jì)了明年全球推理需求的用電量。他假設(shè),明年全球會新增 100 萬到 200 萬個(gè) Nvidia H100 圖形處理器,每個(gè)處理器的功率約為 1 千瓦。如果每個(gè)處理器每天運(yùn)行 24 小時(shí),每人每天可生成 10 萬個(gè)“token”。他認(rèn)為以人類規(guī)模來看,這用電量尚屬合理。全球僅需新增兩座核電站,就可以提供足夠電力。

不過IT之家注意到,埃杜諾夫也指出,人工智能的發(fā)展還面臨著一些挑戰(zhàn)和限制,其中之一是數(shù)據(jù)量的問題。目前,人工智能模型的訓(xùn)練需要大量的數(shù)據(jù),而公開的互聯(lián)網(wǎng)數(shù)據(jù)已經(jīng)不足以支撐下一代模型的訓(xùn)練。下一代模型可能需要 10 倍的數(shù)據(jù)量,這意味著需要更多的專業(yè)領(lǐng)域的數(shù)據(jù),或者更多的多模態(tài)數(shù)據(jù),如視頻、音頻等。另一個(gè)挑戰(zhàn)是供應(yīng)鏈的問題。由于全球芯片產(chǎn)能的緊張,人工智能模型的改進(jìn)速度也會受到影響。因此,研究人員正努力提高模型的效率,以減少對數(shù)據(jù)和硬件的依賴。例如,Salesforce 公司開發(fā)了 Blib-2,這是一種能夠自動調(diào)整模型大小的技術(shù),可以根據(jù)不同的任務(wù)和資源需求,動態(tài)地縮小或擴(kuò)大模型。

業(yè)內(nèi)專家普遍認(rèn)為,語言模型在兩年內(nèi)將為企業(yè)帶來巨大價(jià)值。埃杜諾夫預(yù)計(jì),三四年內(nèi)我們將知曉當(dāng)前技術(shù)是否能實(shí)現(xiàn)通用人工智能。

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:AI,人工智能

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會買 要知