設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

研究者:AI 模型“推理環(huán)節(jié)”耗電更多,2027 年行業(yè)用電量將“堪比荷蘭一國”

2023/10/13 23:12:57 來源:IT之家 作者:漾仔(實(shí)習(xí)) 責(zé)編:漾仔

IT之家 10 月 13 日消息,《Cell》的姐妹期刊《Joule》本周出版了一篇名為《持續(xù)成長的人工智慧能源足跡(The growing energy footprint of artificial intelligence)》論文。

IT之家經(jīng)過查詢得知,該論文由科研機(jī)構(gòu) Digiconomist 創(chuàng)始人 Alex De Vries 發(fā)表,其聲稱未來 AI 推理性能可能會消耗大量的電力,而到 2027 年,AI 的用電量可能等同于荷蘭一年的電力使用。

Alex De Vries 表示,外界一向認(rèn)為訓(xùn)練一個 AI 模型“AI 最耗電的階段”,但 Vries 引用了 SemiAnalysis 及谷歌的報告指出,“推論環(huán)節(jié)”所消耗的電力更多,自 2019 年到 2021 年,與 AI 相關(guān)的能源消耗中,預(yù)計有 60% 來自模型推論。

▲ 圖源 相關(guān)論文

Alex De Vries 同時以谷歌在 2021 年披露的 18.3 TWh 耗電量來計算,聲稱當(dāng)時 AI 占了谷歌公司整體耗電量的 10%-15%,而在谷歌全面實(shí)施“AI 搜索”之后,該公司在 AI 方面的耗電量最高可能達(dá)到 27.4 TWh,接近愛爾蘭一整年所使用的電力(29.3 TWh)。

就整個市場來看,隨著英偉達(dá)合作伙伴臺積電(TSMC)所投資的新 CoWoS 廠預(yù)計于 2027 年量產(chǎn),Alex De Vries 也估計屆時英偉達(dá)所交付的全數(shù) AI 服務(wù)器總用電量將達(dá) 85-134 TWh,相當(dāng)于荷蘭一年的電力使用。

▲ 圖源 相關(guān)論文

Alex De Vries 認(rèn)為,AI 產(chǎn)業(yè)應(yīng)當(dāng)提高硬件效率,改善模型演算效率,以改善產(chǎn)業(yè)的耗電情況,他還建議開發(fā)者不僅應(yīng)專注于優(yōu)化 AI,也必須考慮使用 AI 的必要性,以降低 AI 行業(yè)的耗能成本。

參考

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:AI,能源人工智能

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會買 要知