IT之家 4 月 19 日消息 阿里巴巴達摩院發(fā)布超大規(guī)模語言模型 PLUG,該模型參數(shù)規(guī)模達 270 億,是目前全球規(guī)模最大的中文純文本預訓練語言模型。
官方表示,PLUG 集良好的語言理解與創(chuàng)造性文本生成能力于一身,在小說仿寫、詩歌生成、智能問答等長文本生成領(lǐng)域表現(xiàn)突出,其目標是通過超大模型的能力,大幅提升中文自然語言技術(shù)在各類任務中的表現(xiàn),取得超越人類表現(xiàn)的性能。
▲ PLUG 刷新 CLUE 分類榜單紀錄,排名僅次于“人類”
接下來,PLUG 將擴大參數(shù)規(guī)模至 2000 億級,并進一步提升文本生成質(zhì)量。
IT之家了解到,達摩院語言技術(shù)實驗室研究員黃非表示:“現(xiàn)在預訓練語言模型的發(fā)展趨勢包括更多的訓練數(shù)據(jù)、更廣的數(shù)據(jù)領(lǐng)域、跨模態(tài)信息的融入等。模型能力正變得越來越強大,在生成理解等方面也正逐步接近人類水平。但在邏輯推理、情感表達方面,語言模型的能力還有待進一步提升。后續(xù)期待語言模型融合除文本信息以外更廣泛的人類知識,能作為認知智能的技術(shù)基座,在更多場景中得到廣泛應用?!?/p>
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。