IT之家 6 月 2 日消息，在目前正在進(jìn)行的黃仁勛 2024 臺(tái)北電腦展主題演講上，黃仁勛介紹生成式人工智能將推動(dòng)軟件全棧重塑，展示其 NIM（Nvidia Inference Microservices）云原生微服務(wù)。
英偉達(dá)認(rèn)為“AI 工廠”將掀起一場(chǎng)新產(chǎn)業(yè)革命：以微軟開創(chuàng)的軟件行業(yè)為例，黃仁勛認(rèn)為生成式人工智能將推動(dòng)其全棧重塑。
為方便各種規(guī)模的企業(yè)部署 AI 服務(wù)，英偉達(dá)今年 3 月推出了 NIM（Nvidia Inference Microservices）云原生微服務(wù)。
NIM 是一套經(jīng)過(guò)優(yōu)化的云原生微服務(wù)，旨在縮短上市時(shí)間，并簡(jiǎn)化生成式 AI 模型在云、數(shù)據(jù)中心和 GPU 加速工作站的任何位置的部署。它使用行業(yè)標(biāo)準(zhǔn) API，抽象化 AI 模型開發(fā)和生產(chǎn)包裝的復(fù)雜性，從而擴(kuò)展開發(fā)者池。
IT之家注意到，官方制作了一個(gè) llama3 大模型的 NIM 容器，現(xiàn)已上線英偉達(dá)官網(wǎng)，開放供全部用戶下載并任意部署。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。