IT之家 9 月 5 日消息,在今日舉辦的 2023 百度云智大會(huì)上,百度智能云宣布千帆大模型平臺(tái) 2.0 全面升級(jí)發(fā)布。
據(jù)百度云官方介紹,千帆大模型平臺(tái) 2.0 升級(jí)帶來了多項(xiàng)改進(jìn):
在工具鏈方面,大模型開發(fā)、訓(xùn)練、部署、應(yīng)用開發(fā)各個(gè)環(huán)節(jié)是緊密結(jié)合的。據(jù)介紹,千帆整套的工具鏈可以無縫銜接全生命周期的各個(gè)業(yè)務(wù)流程,最大化提升效率。以前,技術(shù)團(tuán)隊(duì)一個(gè)月才能調(diào)試、跑通看到大模型的效果,在千帆一站式工具鏈平臺(tái),當(dāng)天就可以實(shí)現(xiàn)。
在算力效能方面,千帆底層是一套集合了異構(gòu)算力集群、高速互聯(lián)的網(wǎng)絡(luò)、高性能存儲(chǔ),能夠支撐萬卡規(guī)模訓(xùn)練的 AI 算力基礎(chǔ)設(shè)施,可將大模型訓(xùn)練、推理的成本降到最低。
在數(shù)據(jù)方面,千帆不僅納管大模型,還可增強(qiáng)大模型的能力。本次全新升級(jí)中文增強(qiáng),可大幅提升大模型中文理解和生成能力,例如 LIama2 的國外大模型,也可實(shí)現(xiàn)中文對(duì)話好的效果。同時(shí)還全面提升訓(xùn)練和推理性能,訓(xùn)練 LlaMA 2 的總體吞吐可以提升 1/4,推理甚至能提升 3 倍。
在企業(yè)級(jí)安全方面,通過千帆的安全機(jī)制,企業(yè)能夠構(gòu)建四層安全防線,全方位保障大模型的內(nèi)容安全、數(shù)據(jù)安全和系統(tǒng)安全。對(duì)合規(guī)要求很高的客戶,千帆支持國內(nèi)、國外主流芯片和操作系統(tǒng),也支持私有化部署,確保每個(gè)企業(yè)自己的大模型都自主可控。
此外,在 2023 百度云智大會(huì)上,百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖表示,截至目前百度網(wǎng)盤“云一朵”智能助理累積使用人數(shù)已經(jīng)超過 600 萬。
IT之家注:千帆大模型平臺(tái)是百度智能云推出的一站式企業(yè)級(jí)大模型平臺(tái),可以為企業(yè)提供大模型開發(fā)全流程工具鏈和整套環(huán)境,號(hào)稱可以“讓企業(yè)高效率、低成本地?fù)肀Т竽P汀薄?/p>
8 月初,千帆大模型平臺(tái)完成第一輪升級(jí),全面接入了 LLaMA2 全系列、ChatGLM2 等 33 個(gè)大模型,成為國內(nèi)擁有最多大模型的平臺(tái);同時(shí),千帆大模型平臺(tái)上線 103 個(gè)預(yù)置 Prompt 模板,覆蓋對(duì)話、編程、電商十余個(gè)場(chǎng)景。
而現(xiàn)在,千帆大模型平臺(tái)納管的國內(nèi)外主流大模型達(dá)到了 42 個(gè)再創(chuàng)新高,還預(yù)置了 41 個(gè)有行業(yè)特色的數(shù)據(jù)集,月活企業(yè)數(shù)已近萬家,覆蓋金融、制造、能源、政務(wù)、交通等行業(yè)的 400 多個(gè)業(yè)務(wù)場(chǎng)景。
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。