Meta 千億參數(shù)大模型 OPT-IML「升級(jí)版」來了，完整模型和代碼公布

今年五月，MetaAI 官宣發(fā)布了基于 1750 億參數(shù)的超大模型 OPT-175B，還對(duì)所有社區(qū)免費(fèi)開放。

12 月 22 日，該模型的更新版本 OPT-IML（Open Pre-trained Transformer）正式上線，Meta 稱其「對(duì) 2000 個(gè)語言任務(wù)進(jìn)行了微調(diào)，包含 1750 億個(gè)參數(shù)」，還將為非商業(yè)研究用途免費(fèi)開放。

這次更新的 OPT-IML 的性能表現(xiàn)如何，先上兩張圖來看看。

這次的 OPT-IML 創(chuàng)建了兩種模型尺寸，分別是 30B 和 175B。

與舊版 OPT 模型相比，OPT-IML 在 14 個(gè)標(biāo)準(zhǔn) NLP 評(píng)估任務(wù)中的平均表現(xiàn)均優(yōu)于 OPT。

在零次學(xué)習(xí)任務(wù)上兩種模型大小分別好 7%~ 和 32-shot 任務(wù)分別好 4%~ 和 0.4%~。

在這項(xiàng)研究中，研究人員描述了增加模型和基準(zhǔn)大小如何影響指令調(diào)整決策對(duì)下游任務(wù)性能的影響。

為此他們開發(fā)了 OPT-IML Bench，這是一個(gè)相當(dāng)大的指令元學(xué)習(xí) (IML) 基準(zhǔn)，包含 2000 個(gè) NLP 任務(wù)，這些任務(wù)根據(jù)現(xiàn)有的八個(gè)基準(zhǔn)分為任務(wù)類別。

為訓(xùn)練 OPT-IML 30B 和 175B，研究人員首先從該框架的角度對(duì)應(yīng)用于 OPT-30B 的指令調(diào)優(yōu)決策提出了見解。

在具有不同目標(biāo)和輸入格式的四個(gè)評(píng)估基準(zhǔn)（PromptSource、FLAN、Super-NaturalInstructions 和 UnifiedSKG）上，OPT-IML 在兩個(gè)尺度上展示了所有三種泛化技能。

它不僅在所有基準(zhǔn)測(cè)試中顯著優(yōu)于 OPT，而且以極具競(jìng)爭(zhēng)力的方式優(yōu)于針對(duì)該特定基準(zhǔn)優(yōu)化的現(xiàn)有模型。

此外 OPT-IML 已經(jīng)開源，Github 鏈接小編也放在下面啦~

接下來通過論文來一起了解一下 OPT-IML。

研究方法

大型語言模型的指令微調(diào)已成為增強(qiáng)其零樣本和少樣本泛化能力的有效方法。在這項(xiàng)研究中，Meta 研究人員對(duì)指令微調(diào)進(jìn)行了三項(xiàng)重要的補(bǔ)充。

首先，他們編譯了一個(gè)大規(guī)模的指令微調(diào)基準(zhǔn)，其中包含來自八個(gè)數(shù)據(jù)集集合的 2,000 個(gè) NLP 任務(wù)，按任務(wù)類型分類。

研究人員在此基準(zhǔn)上有選擇地構(gòu)建評(píng)估拆分，以測(cè)試三種不同類型的模型泛化能力：

包括來自完全保留類別的任務(wù)（tasks from fully held-out categories）、來自已見類型的保留任務(wù)（held-out tasks from seen types）以及來自已見任務(wù)的保留實(shí)例（held-out instances from seen tasks）。

指令微調(diào)

對(duì)模型進(jìn)行微調(diào)，以使它們與遵守說明保持一致，是目前機(jī)器學(xué)習(xí)的研究方向之一。

指令微調(diào)有兩種方法。一種側(cè)重于使用人工注釋的指令和反饋對(duì)各種任務(wù)的模型進(jìn)行微調(diào)；另一種，側(cè)重于通過注釋或自動(dòng)向可公開訪問的基準(zhǔn)和數(shù)據(jù)集添加指令。

在本研究中，Meta AI 成員專注于第二種技術(shù)，并編譯了許多可公開訪問的數(shù)據(jù)集，其中包含改進(jìn) OPT 的方法。

研究過程中，Meta 成員使用來自四個(gè)基準(zhǔn)的 1836 個(gè)任務(wù)，提出了類似的縮放方法。最后，在調(diào)整整個(gè)測(cè)試，以突破具有挑戰(zhàn)性的外部基準(zhǔn)（例如 MMLU 和 Big-Bench Hard (BBH)）性能極限的同時(shí)，研究人員描述了可能影響下游性能的各種指令調(diào)整策略的權(quán)值。

多任務(wù)學(xué)習(xí)

多任務(wù)學(xué)習(xí)是基于指令的微調(diào) (MTL) 的一種表述。

MTL 是一種流行的范例，當(dāng)與共享可比較參數(shù)或表示的類似函數(shù)結(jié)合使用時(shí)，它可以提高任務(wù)的泛化性能。

近年來，MTL 已應(yīng)用于眾多 NLP 場(chǎng)景，主要側(cè)重于通過利用來自相關(guān)活動(dòng)的信號(hào)來提高訓(xùn)練任務(wù)或新領(lǐng)域的性能。

相比之下，基于指令的微調(diào)有助于我們提高對(duì)前所未見問題的泛化性能。它是通過指令將所有任務(wù)組合成一個(gè)概念并通過在所有任務(wù)上分配模型的權(quán)重來一起訓(xùn)練它們來實(shí)現(xiàn)的。

什么是 OPT？

大型語言模型，即具有超過 1000 億個(gè)參數(shù)的自然語言處理系統(tǒng)，在過去幾年中改變了 NLP 和 AI 研究。

這些模型接受了大量不同文本的訓(xùn)練，展現(xiàn)出令人驚訝的新能力，可以生成創(chuàng)意文本、解決基本數(shù)學(xué)問題、回答閱讀理解問題等等。

雖然在某些情況下，公眾可以通過付費(fèi) API 與這些模型進(jìn)行交互，但完整的研究訪問權(quán)限仍然僅限于少數(shù)資源豐富的實(shí)驗(yàn)室。

這種受限訪問限制了研究人員理解這些大型語言模型如何工作以及為何工作的能力，阻礙了提高其魯棒性和減輕偏見等已知問題的進(jìn)展。

出于對(duì)開放科學(xué)的承諾，Meta AI 于今年 5 月發(fā)布了 Open Pretrained Transformer (OPT-175B)，這是一個(gè)具有 1750 億參數(shù)的模型，在公共數(shù)據(jù)集上訓(xùn)練而成，之所以共享這個(gè)模型，Meta AI 希望更多的社區(qū)參與理解關(guān)于大模型的基本技術(shù)。

簡(jiǎn)單來說，Meta 將用于人工智能研究的大型語言模型訪問權(quán)限開放給大眾，從而實(shí)現(xiàn)大模型研究的人工智能民主化。

與老版對(duì)比

根據(jù) Meta 現(xiàn)在發(fā)布的 IML 版本經(jīng)過微調(diào)，在自然語言任務(wù)上的表現(xiàn)比舊版 OPT 更好。

典型的語言任務(wù)包括回答問題、總結(jié)文本和翻譯。

為了進(jìn)行微調(diào)，研究人員使用了大約 2000 個(gè)自然語言任務(wù)。這些任務(wù)分為八個(gè) NLP 基準(zhǔn)（OPT-IML Bench），研究人員也提供了這些基準(zhǔn)。

平均而言，以 30B 和 175B 模型為例，OPT-IML 比 OPT 的零次學(xué)習(xí)準(zhǔn)確度提高了約 6-7%。在 32 次學(xué)習(xí)中，300 億參數(shù)的模型準(zhǔn)確度有顯著改進(jìn)，1750 億參數(shù)的模型有輕微改進(jìn)。

經(jīng)過對(duì)比，Meta 團(tuán)隊(duì)發(fā)現(xiàn) OPT-IML 的性能在所有基準(zhǔn)測(cè)試上都優(yōu)于 OPT，并且在零樣本和少樣本學(xué)習(xí)準(zhǔn)確度方面，比其他基于指令微調(diào)的模型更具有競(jìng)爭(zhēng)力。

參考資料：

• https://the-decoder.com/opt-iml-meta-releases-open-source-language-model-optimized-for-tasks/

• https://wandb.ai/telidavies/ml-news/reports/OPT-IML-Meta-Releases-New-Instruction-Tuned-OPT-Models-NLP-Task-Benchmark--VmlldzozMjAzMzc1

本文來自微信公眾號(hào)：新智元 （ID：AI_era），編輯：Joey、昕朋

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。