IT之家 8 月 27 日消息，智譜 AI 今日宣布，GLM-4-Flash 大模型免費(fèi)開放，通過智譜 AI 大模型開放平臺(tái)調(diào)用。
GLM-4-Flash 適用于完成簡(jiǎn)單垂直、低成本、需要快速響應(yīng)的任務(wù)，生成速度能達(dá)到 72.14 token/s，約等于 115 字符/s。
GLM-4-Flash 具備多輪對(duì)話、網(wǎng)頁瀏覽、Function Call（函數(shù)調(diào)用）和長(zhǎng)文本推理（支持最大 128K 上下文）等功能，同時(shí)支持包括中文、英語、日語、韓語、德語等在內(nèi)的 26 種語言。
官方表示，通過采用自適應(yīng)權(quán)重量化、多種并行化方式、批處理策略以及投機(jī)采樣等多種方法，在推理層面實(shí)現(xiàn)模型的延遲降低與速度提升，更大并發(fā)量和吞吐量不僅提升了效率，而且讓推理成本顯著降低，從而免費(fèi)推出。
在預(yù)訓(xùn)練方面，官方引入了大語言模型進(jìn)入數(shù)據(jù)篩選流程，獲得 10T 高質(zhì)量多語言數(shù)據(jù)，數(shù)據(jù)量是 ChatGLM3-6B 模型的 3 倍以上；同時(shí)采用了 FP8 技術(shù)進(jìn)行預(yù)訓(xùn)練，提高了訓(xùn)練效率和計(jì)算量。
IT之家附相關(guān)鏈接如下：
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。