設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

亞馬遜與 AI 公司 Hugging Face 合作:定制芯片低成本運(yùn)行 AI 模型

2024/5/23 10:38:06 來源:IT之家 作者:沛霖(實(shí)習(xí)) 責(zé)編:沛霖

IT之家 5 月 23 日消息,亞馬遜公司的云部門宣布,已與人工智能初創(chuàng)公司 Hugging Face 合作,將在亞馬遜的定制計(jì)算芯片上更低成本地運(yùn)行數(shù)千個(gè) AI 模型。

估值 45 億美元(IT之家備注:當(dāng)前約 326.25 億元人民幣)的 Hugging Face 已成為 AI 研究人員和開發(fā)者分享聊天機(jī)器人或其他 AI 軟件的中心,并得到了亞馬遜、Alphabet 旗下的谷歌和英偉達(dá)等公司的支持,它是開發(fā)者獲取和調(diào)整開源 AI 模型(如 Meta Platforms 的 Llama 3)的主要平臺(tái)。

當(dāng)開發(fā)人員調(diào)整了開源的 AI 模型后,他們通常希望使用該模型來驅(qū)動(dòng)軟件。亞馬遜和 Hugging Face 周三宣布,他們已經(jīng)合作在一個(gè)名為 Inferentia2 的定制亞馬遜網(wǎng)絡(luò)服務(wù)(AWS)芯片上實(shí)現(xiàn)這一目標(biāo)。

“對我們來說,效率非常重要 —— 確保盡可能多的人能夠運(yùn)行模型,并且能夠以最具成本效益的方式運(yùn)行,”Hugging Face 的產(chǎn)品和增長負(fù)責(zé)人 Jeff Boudier 說。

AWS 希望吸引更多的 AI 開發(fā)者使用其云服務(wù)來交付 AI。雖然英偉達(dá)在訓(xùn)練模型的市場上占據(jù)主導(dǎo)地位,但 AWS 認(rèn)為其芯片可以以較低成本運(yùn)行那些經(jīng)過訓(xùn)練的模型。

負(fù)責(zé) AWS 人工智能產(chǎn)品的 Matt Wood 表示,你可能每個(gè)月訓(xùn)練這些模型一次,但可能每小時(shí)對它們進(jìn)行成千上萬次推理,這是 Inferentia2 真正閃光的地方。

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:亞馬遜Hugging Face

軟媒旗下網(wǎng)站: IT之家 最會(huì)買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會(huì)買 要知