IT之家 1 月 16 日消息，網(wǎng)易有道今日宣布自研的知識(shí)庫(kù)問(wèn)答引擎 QAnything 正式開(kāi)源，除了可以調(diào)用云端大模型服務(wù)，還支持純本地部署，目前可免費(fèi)在開(kāi)源社區(qū) Github 內(nèi)進(jìn)行下載。
據(jù)介紹，QAnything 一鍵部署即可使用，系統(tǒng)支持 Word、PPT、Excel、PDF、圖片等多種文檔格式，直接導(dǎo)入進(jìn)去即可像“ChatGPT”一樣問(wèn)答。官方推薦 RTX 3090 及以上配置電腦本地部署。
QAnything 的主要原理是基于檢索增強(qiáng)的生成（Retrieval Augmented Generation，簡(jiǎn)稱(chēng) RAG）。RAG 是目前很火的一種技術(shù)框架，它能夠利用檢索外部?jī)?nèi)容的方式增強(qiáng)大語(yǔ)言模型的準(zhǔn)確度、專(zhuān)業(yè)能力和個(gè)性化等各方面的性能。
網(wǎng)易有道表示，通用大模型能力很強(qiáng)，但無(wú)法使用用戶(hù)的私有數(shù)據(jù)，且存在胡亂編造的幻覺(jué)問(wèn)題。而 QAnything 號(hào)稱(chēng)結(jié)合了用戶(hù)私有數(shù)據(jù)和大模型的優(yōu)勢(shì) —— 用戶(hù)的任何內(nèi)容，以任意的形式存在，比如各種格式的文檔，音頻，數(shù)據(jù)庫(kù)等，都可以在 QAnything 的支持下，變成可以針對(duì)其內(nèi)容進(jìn)行問(wèn)答的使用方式，通過(guò)這個(gè)技術(shù)框架用戶(hù)可以很方便地搭建自己的智能知識(shí)助手。正如它的名字一樣，Q 是 question，A 是 answer，QAnything 的目標(biāo)就是萬(wàn)物皆可問(wèn)。
值得一提的是，本次網(wǎng)易有道開(kāi)源的 QAnything 是一套完整的 RAG 系統(tǒng)，包括專(zhuān)門(mén)優(yōu)化的自研的 embedding 和 rerank 模型、微調(diào)后的 LLM（大型語(yǔ)言模型）、優(yōu)化后的推理代碼、向量數(shù)據(jù)庫(kù)，以及一個(gè)立即上手可用的前端。所有的算法模型（包括 7B 大模型 + embedding / rerank+OCR）占用顯存不超過(guò) 16GB。
網(wǎng)易有道官方表示，QAnything 已在網(wǎng)易有道的多個(gè)產(chǎn)品中應(yīng)用，包括有道翻譯文檔問(wèn)答、有道速讀及有道內(nèi)部業(yè)務(wù)的客服系統(tǒng)等。
IT之家附 QAnything 開(kāi)源項(xiàng)目地址和體驗(yàn)鏈接：
GitHub 頁(yè)面：點(diǎn)此查看
體驗(yàn)頁(yè)面：點(diǎn)此訪問(wèn)
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。