設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

谷歌推出超級電腦架構(gòu) Hypercomputer:整合主流深度學(xué)習(xí)框架、采用靈活定價策略

2023/12/7 15:11:44 來源:IT之家 作者:漾仔(實習(xí)) 責(zé)編:漾仔

IT之家 12 月 7 日消息,谷歌今日在推出全新大語言模型 Gemini 1.0、云端 AI 芯片 TPU v5p 外,還推出了超級電腦架構(gòu) AI Hypercomputer。

IT之家獲悉,AI Hypercomputer 電腦架構(gòu)號稱“軟硬結(jié)合”,整合了為 AI 優(yōu)化的硬件、開源軟件、主流深度學(xué)習(xí)框架,并號稱采用靈活的定價模式,便于商業(yè)及研究部門使用。

谷歌介紹稱,傳統(tǒng)深度學(xué)習(xí)硬件主要憑借硬件性能來加強(qiáng) AI 計算速度,而 AI Hypercomputer 超級電腦架構(gòu)實現(xiàn)了“軟硬結(jié)合”,利用軟件與硬件的協(xié)同式設(shè)計,提升 AI 訓(xùn)練效率。

谷歌聲稱,AI Hypercomputer 支持 JAX、TensorFlow 與 PyTorch 等深度學(xué)習(xí)框架,以及 Multislice Training 與 Multihost Inferencing 等軟件,還深度整合了谷歌 Kubernetes Engine(GKE)與 Compute Engine 兩款基礎(chǔ)架構(gòu)服務(wù)。

IT之家同時發(fā)現(xiàn),谷歌強(qiáng)調(diào)了 AI Hypercomputer 在定價費率方面的獨特性,谷歌聲稱該 AI 結(jié)構(gòu)提供了更靈活的消費模式,使用了一項名為“Dynamic Workload Scheduler”的平臺計費基準(zhǔn),提供“Flex Start”與“Calendar”。

Flex Start 主要用來微調(diào)模型,承載學(xué)術(shù)實驗及較短的訓(xùn)練任務(wù),或進(jìn)行蒸餾、離線推理及批量性的任務(wù),計費標(biāo)準(zhǔn)主要基于 AI 任務(wù)所使用的 GPU 與 TPU 量。

而 Calendar 模式則可替 AI 任務(wù)預(yù)留開始時間,適用于需要精確開始時間及模型訓(xùn)練持續(xù)時間的任務(wù),計費標(biāo)準(zhǔn)主要基于時間長度。

相關(guān)閱讀:

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會買 要知