馬斯克:xAI 訓(xùn)練 Grok-3 大模型用了 10 萬(wàn)塊英偉達(dá) H100 芯片

2024/7/2 14:24:31 來(lái)源:IT之家 作者:問(wèn)舟 責(zé)編:問(wèn)舟

IT之家 7 月 2 日消息,馬斯克已經(jīng)宣布其人工智能初創(chuàng)公司 xAI 的大語(yǔ)言模型 Grok-2 將于 8 月推出,將帶來(lái)更先進(jìn)的 AI 功能。雖然 Grok-2 還沒(méi)亮相,但馬斯克已經(jīng)開(kāi)始為其 Grok-3 進(jìn)行造勢(shì)。

馬斯克表示,訓(xùn)練 AI 聊天機(jī)器人需要數(shù)據(jù)集,而且從現(xiàn)有數(shù)據(jù)中清除大型語(yǔ)言模型 (LMM) 的工作量很大。他還談到了 OpenAI 模型輸出訓(xùn)練的幾個(gè)問(wèn)題。

他透露 xAI 的 Grok-3 用了 10 萬(wàn)塊英偉達(dá) H100 芯片進(jìn)行訓(xùn)練,預(yù)計(jì)將于年底發(fā)布,相信它會(huì)“非常特別”。

H100 是英偉達(dá)開(kāi)發(fā)的專(zhuān)門(mén)用于處理大語(yǔ)言模型(LLMs)數(shù)據(jù)的 AI 芯片。每塊英偉達(dá) H100 人工智能芯片的價(jià)格估計(jì)在 3-4 萬(wàn)美元(當(dāng)前約 21.9 - 29.2 萬(wàn)元人民幣)左右,批量購(gòu)買(mǎi)的話(huà)可能會(huì)有折扣。

我們簡(jiǎn)單計(jì)算可知,xAI 這里的 10 萬(wàn)塊英偉達(dá) H100 價(jià)值 30-40 億美元(IT之家備注:當(dāng)前約 218.68 - 291.57 億元人民幣)。馬斯克之前曾提到特斯拉今年從英偉達(dá)的采購(gòu)額估計(jì)將在 30-40 億美元之間,合理推測(cè) xAI 這里用的是特斯拉購(gòu)買(mǎi)的英偉達(dá)芯片進(jìn)行訓(xùn)練。

相關(guān)閱讀:

廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:芯片人工智能,英偉達(dá)

軟媒旗下網(wǎng)站: IT之家 最會(huì)買(mǎi) - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會(huì)買(mǎi) 要知