IT之家 6 月 14 日消息,OpenAI 今日宣布對其大型語言模型 API(包括 GPT-4 和 gpt-3.5-turbo)進(jìn)行重大更新,包括新增函數(shù)調(diào)用功能、降低使用成本、以及為 gpt-3.5-turbo 模型提供 16000 個 token 的版本。
大型語言模型(LLM)是一種能夠處理自然語言的人工智能技術(shù),它的“上下文窗口(context window)”相當(dāng)于一個短期記憶,可以存儲輸入的內(nèi)容或者聊天機(jī)器人的對話內(nèi)容。在語言模型中,增加上下文窗口大小已經(jīng)成為一種技術(shù)競賽,Anthropic 公司最近宣布其 Claude 語言模型可以提供 75000 個 token 上下文窗口選項。此外,OpenAI 也開發(fā)了一個 32000 個 token 的 GPT-4 版本,但尚未公開推出。
OpenAI 剛剛推出了一個新的 16000 上下文窗口的 gpt-3.5-turbo 版本,名為“gpt-3.5-turbo-16k”,可以處理長度達(dá)到 16000 個 token 的輸入,這意味著可以一次處理大約 20 頁的文本,這對于需要模型處理和生成較大文本塊的開發(fā)者來說是一個很大的提升。
除了這一變化之外,OpenAI 還列出了至少四個其他主要的新功能:
在 Chat Completions API 中引入函數(shù)調(diào)用功能
GPT-4 和 gpt-3.5-turbo 的改進(jìn)版和“更易控(more steerable)”的版本
將“ada”嵌入模型的價格降低了 75%
將 gpt-3.5-turbo 模型的輸入 token 價格降低了 25%
函數(shù)調(diào)用功能可以讓開發(fā)者更容易地構(gòu)建能夠調(diào)用外部工具、將自然語言轉(zhuǎn)換為外部 API 調(diào)用或進(jìn)行數(shù)據(jù)庫查詢的聊天機(jī)器人。例如,它可以將“給 Anya 發(fā)郵件,看看她下周五是否想喝咖啡”這樣的輸入轉(zhuǎn)換為“send_email (to: string, body: string)”這樣的函數(shù)調(diào)用。尤其是,這個功能還可以讓 API 用戶更容易地生成 JSON 格式的輸出,這是之前很難實現(xiàn)的。
關(guān)于“更易控”方面,這是一個指代如何讓 LLM 按照你想要的方式行事的專業(yè)術(shù)語,OpenAI 表示其新的“gpt-3.5-turbo-0613”模型將包含“通過系統(tǒng)消息更可靠地控制”的功能。系統(tǒng)消息是 API 中一種特殊的指令輸入,可以告訴模型如何行事,例如“你是格林姆斯,你只談?wù)撃涛?。?/p>
除了功能上的改進(jìn)之外,OpenAI 還提供了相當(dāng)大幅度的成本降低。值得注意的是,受歡迎的 gpt-3.5-turbo 模型的 token 價格降低了 25%。這意味著開發(fā)者現(xiàn)在可以以每 1000 個 token 約 0.0015 美元、每 1000 個 token 約 0.002 美元的價格使用這個模型,相當(dāng)于每美元可以處理大約 700 頁文本。gpt-3.5-turbo-16k 模型則定價為每 1000 個 token 0.003 美元、每 1000 個 token 0.004 美元。
此外IT之家注意到,OpenAI 還將其“text-embedding-ada-002”嵌入模型的價格降低了 75%。嵌入模型是一種讓計算機(jī)理解單詞和概念的技術(shù),可以將自然語言轉(zhuǎn)換為機(jī)器可以理解的數(shù)字語言,這對于搜索文本和推薦相關(guān)內(nèi)容等任務(wù)很重要。
由于 OpenAI 不斷更新其模型,舊的模型不會一直存在。今天,該公司還宣布開始淘汰一些早期版本的模型,包括 gpt-3.5-turbo-0301 和 gpt-4-0314。該公司表示,開發(fā)者可以繼續(xù)使用這些模型直至 9 月 13 日,之后這些舊模型將不再可用。值得注意的是,OpenAI 的 GPT-4 API 仍然處于等待名單中,尚未完全開放。
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。