英偉達(dá)聯(lián)合發(fā)布 Mistral-NeMo AI 模型:120 億參數(shù)、上下文窗口 12.8 萬(wàn)個(gè) token,要變革商業(yè) AI 應(yīng)用

2024/7/19 7:04:39 來(lái)源:IT之家 作者:故淵 責(zé)編:故淵

IT之家 7 月 19 日消息,英偉達(dá)聯(lián)合法國(guó)初創(chuàng)公司 Mistral AI,今天發(fā)布了全新的 Mistral-NeMo AI 大語(yǔ)言模型,擁有 120 億個(gè)參數(shù),上下文窗口(AI 模型一次能夠處理的最大 Token 數(shù)量)為 12.8 萬(wàn)個(gè) token。

VentureBeat 與 Midjourney 合作制作

Mistral-NeMo AI 大模型主要面向企業(yè)環(huán)境,讓企業(yè)不需要使用大量云資源的情況下,實(shí)施人工智能解決方案。

由于 Mistral NeMo 依賴(lài)于標(biāo)準(zhǔn)架構(gòu),因此企業(yè)在使用過(guò)程中可直接替換任何使用 Mistral 7B 的系統(tǒng)。

英偉達(dá)是 GPU 制造和人工智能硬件領(lǐng)域的巨頭,而 Mistral AI 則是歐洲人工智能領(lǐng)域的后起之秀,雙方的合作標(biāo)志著人工智能行業(yè)的企業(yè)解決方案發(fā)生了重大轉(zhuǎn)變。

行業(yè)分析師認(rèn)為,這一版本可能會(huì)極大地顛覆人工智能軟件市場(chǎng)。Mistral-NeMo 的推出代表著企業(yè)人工智能部署的潛在轉(zhuǎn)變。

通過(guò)提供一種可在本地硬件上高效運(yùn)行的模式,英偉達(dá)和 Mistral AI 正在解決阻礙許多企業(yè)廣泛采用人工智能的問(wèn)題,如數(shù)據(jù)隱私、延遲以及與基于云的解決方案相關(guān)的高成本。

此舉有可能創(chuàng)造公平的競(jìng)爭(zhēng)環(huán)境,讓資源有限的小型企業(yè)也能利用人工智能功能,而這些功能以前只有擁有大量 IT 預(yù)算的大型企業(yè)才能使用。

然而,這一發(fā)展的真正影響將取決于該模型在實(shí)際應(yīng)用中的表現(xiàn),以及圍繞該模型開(kāi)發(fā)的工具和支持生態(tài)系統(tǒng)。

該模型以 Apache 2.0 許可發(fā)布,允許商業(yè)使用,這將加速其在企業(yè)環(huán)境中的應(yīng)用。IT之家附上官方公布的該 AI 模型性能參數(shù)如下:

表 1:Mistral NeMo 基本模型與 Gemma 2 9B 和 Llama 3 8B 的性能比較。

圖 1:Mistral NeMo 在多語(yǔ)言基準(zhǔn)測(cè)試中的表現(xiàn)。

圖 2:Tekken 壓縮率

Mistral NeMo 指令調(diào)整模型精度。使用 GPT4o 根據(jù)官方參考文獻(xiàn)進(jìn)行的評(píng)估。

參考

廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:人工智能,英偉達(dá)Mistral

軟媒旗下網(wǎng)站: IT之家 最會(huì)買(mǎi) - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會(huì)買(mǎi) 要知