IT之家 3 月 1 日消息，科技媒體 smartprix 昨日（2 月 28 日）發(fā)布博文，報(bào)道稱 OpenAI 在介紹 GPT-4.5 模型的視頻中，意外泄露了 GPT-6 訓(xùn)練可能需要的 GPU 數(shù)量，暗示其規(guī)模將遠(yuǎn)超以往。
IT之家注：在 GPT-4.5 模型介紹視頻的 2 分 26 秒處，OpenAI 展示 GPT 4.5 功能的聊天記錄中，出現(xiàn)了“Num GPUs for GPT 6 Training”（訓(xùn)練 GPT-6 所需的 GPU 數(shù)量）的字樣。
雖然視頻中未對(duì)此進(jìn)行任何解釋，但“Num”可能暗示了一個(gè)前所未有的數(shù)字，該媒體推測(cè)高達(dá) 10 萬(wàn)塊 GPU。
此前有消息稱，OpenAI 在訓(xùn)練 GPT-3 時(shí)使用了約 1 萬(wàn)塊 GPU，而隨著模型的不斷迭代，對(duì)計(jì)算資源的需求也在不斷增加。
內(nèi)部代號(hào)為“Orion”的 GPT 4.5 在自然度和減少“幻覺(jué)”方面取得了重大進(jìn)展，其參數(shù)量可能超過(guò) 3 到 4 萬(wàn)億。據(jù)推測(cè)，GPT 4.5 的訓(xùn)練使用了 3 萬(wàn)到 5 萬(wàn)塊 NVIDIA H100 GPU，訓(xùn)練成本約 7.5 億到 15 億美元（IT之家備注：當(dāng)前約 54.69 億到 109.37 億元人民幣）。
截圖中“Num”的含義尚不明確，它可能代表“Numerous”（大量），暗示 GPT-6 的訓(xùn)練規(guī)模遠(yuǎn)超以往。當(dāng)然，這也有可能只是 OpenAI 的一個(gè)煙霧彈，就像之前用“Strawberry”（草莓）作為 o1 系列的代號(hào)一樣。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。