ChatGPT 凌晨重磅更新！新增函數(shù)調(diào)用，4 倍上下文長(zhǎng)度，還更便宜了。
ChatGPT 突然更新！
今天凌晨，OpenAI 在官網(wǎng)上發(fā)布了所有更新細(xì)節(jié)，包含以下這幾個(gè)方面：
在 Chat Completions API 中增加了新的函數(shù)調(diào)用能力
更新了 GPT-4 和 GPT-3.5-Turbo 版本，可操控性更強(qiáng)
為 GPT-3.5-Turbo 增加了 16k 的上下文長(zhǎng)度（此前是 4k）
嵌入模型成本降低 75%
GPT-3.5-Turbo 的輸入 token 成本降低 25%
公布了 GPT-3.5-Turbo-0301 和 GPT-4-0314 模型的淘汰時(shí)間表
其中備受關(guān)注的應(yīng)該就是新的函數(shù)調(diào)用能力，GPT-4 和 GPT-3.5-Turbo 兩個(gè)模型的升級(jí)，以及各種降成本。
對(duì)此，推特網(wǎng)友「寶玉」表示，OpenAI 這次更新的函數(shù)調(diào)用功能，本質(zhì)上是讓 API 直接支持了 Agent 或者 Plugin。
函數(shù)調(diào)用
現(xiàn)在，開發(fā)者現(xiàn)在可以向 GPT-4-0613 和 GPT-3.5-turbo-0613 描述函數(shù)，并讓模型智能地選擇輸出包含調(diào)用這些函數(shù)的參數(shù)的 JSON 對(duì)象。
這是一種更可靠地將 GPT 的功能與外部工具和 API 相連的新方法。
這些模型已經(jīng)過(guò)微調(diào)，既能檢測(cè)到何時(shí)需要調(diào)用函數(shù)（取決于用戶輸入的內(nèi)容），又能用符合函數(shù)簽名的 JSON 來(lái)進(jìn)行響應(yīng)。
函數(shù)調(diào)用允許開發(fā)者更可靠地從模型中獲得結(jié)構(gòu)化的數(shù)據(jù)。
比如，開發(fā)者可以創(chuàng)建一個(gè)聊天機(jī)器人，通過(guò)調(diào)用外部工具（例如，ChatGPT 插件）來(lái)回答問(wèn)題。
具體來(lái)說(shuō)，可以將諸如「給 Anya 發(fā)郵件，看她下周五是否想喝咖啡」這樣的查詢轉(zhuǎn)換為 send_email (to: string, body: string) 這樣的函數(shù)調(diào)用。
或者將「波士頓的天氣如何？」轉(zhuǎn)換為 get_current_weather (location: string, unit: 'celsius' | 'fahrenheit')。
此外，開發(fā)者還能將自然語(yǔ)言轉(zhuǎn)換為 API 調(diào)用或者數(shù)據(jù)庫(kù)查詢。
比如，將「誰(shuí)是我這個(gè)月的十大客戶？」轉(zhuǎn)換為內(nèi)部 API 調(diào)用，即為：get_customers_by_revenue (start_date: string, end_date: string, limit: int)。
又或者把「Acme, Inc.上個(gè)月有多少訂單？」轉(zhuǎn)換成 SQL 查詢，即為：sql_query (query: string)。
此外，還允許開發(fā)者從文本中提取結(jié)構(gòu)化數(shù)據(jù)。
只需定義一個(gè)名為 extract_people_data (people: [{name: string, birthday: string, location: string}] 的函數(shù)，就能提取維基百科文章中提到的所有人物。
以前用戶需要在 Prompt 里加一堆描述才能支持 Agent，而現(xiàn)在就簡(jiǎn)單多了，只要在 API 請(qǐng)求的時(shí)候，傳入一個(gè) functions 參數(shù)即可。
functions 參數(shù)實(shí)際上就類似于用戶要指定的 Agent。
注意，這里可以是不止一個(gè) function，function 是一個(gè)對(duì)象，還可以加上名稱（name）、描述（description）、參數(shù)（parameters）等等。
然后，返回的結(jié)果就包含了如下結(jié)構(gòu)化的內(nèi)容：
function_call：調(diào)用的函數(shù)名，和用戶傳入的函數(shù)名稱一致
arguments：JSON 格式的參數(shù)值，包含了用戶調(diào)用函數(shù)需要的參數(shù)名稱和值。
比如說(shuō)：
"function_call": { "name": "get_current_weather", "arguments": "{ \"location\": \"Boston, MA\"}" }
國(guó)外網(wǎng)友表示，function 最大的價(jià)值就是解決了 GPT 返回?cái)?shù)據(jù)結(jié)構(gòu)化的問(wèn)題，不再需要用戶輸入復(fù)雜的 prompt。
第一步：OpenAI API
第二步：第三方 API
第三步：OpenAI API
模型升級(jí)
GPT-4
GPT-4-0613 的主要更新就是上面提到的全新函數(shù)調(diào)用功能。
而 GPT-4-32k-0613 的更新，除了包含 GPT-4-0613 的所有更新內(nèi)容以外，還新增加了更長(zhǎng)的上下文長(zhǎng)度，從而能更好地理解更長(zhǎng)篇幅的文本。
OpenAI 表示，未來(lái)幾周內(nèi)，將會(huì)有更多目前在等待名單上的人可以開始使用 GPT-4.
GPT-3.5 Turbo
GPT-3.5-turbo-0613 的更新中具備與 GPT-4 相同的函數(shù)調(diào)用功能，并通過(guò)系統(tǒng)信息提供了更高的可控性。
這兩個(gè)特性將使開發(fā)者能夠更有效地引導(dǎo) GPT 模型生成的回復(fù)。
GPT-3.5-turbo-16k 相較于 GPT-3.5-turbo 擁有 4 倍的上下文長(zhǎng)度，但成本是前者的兩倍。
每 1000 個(gè) token 輸入的費(fèi)用為 0.003 美元，每 1000 個(gè)輸出 token 的費(fèi)用為 0.004 美元。
16k 的上下文長(zhǎng)度意味著該模型現(xiàn)在能夠在單次對(duì)話中支持約 20 頁(yè)長(zhǎng)度的文本。
同時(shí)，OpenAI 表示，新模型將于 6.27 正式上線，而舊模型將于今年 9.13 后無(wú)法再次訪問(wèn)。
價(jià)格更低
最后，OpenAI 發(fā)布的價(jià)格降低的新消息也讓不少用戶為之一動(dòng)。
text-embedding-ada-002 是 OpenAI 最受歡迎的嵌入模型。今天我們將成本降低了 75%，每 1,000 個(gè) token 費(fèi)用為 0.0001 美元。
而作為最受歡迎的聊天模型 ——GPT-3.5-turbo，其輸入的 token 費(fèi)用降低了 25%。
開發(fā)者現(xiàn)在能以 0.0015 美元 / 1000 個(gè)輸入 token 的價(jià)格使用該模型，每 1000 個(gè)輸出 token 費(fèi)用為 0.002 美元，相當(dāng)于每美元大約能使用 700 頁(yè)。
GPT-3.5-turbo-16k 的定價(jià)為 0.003 美元 / 每 1000 個(gè)輸入 token，而每 1000 個(gè)輸出 token 費(fèi)用為 0.004 美元。
參考資料：
https://openai.com/blog/function-calling-and-other-api-updates
本文來(lái)自微信公眾號(hào)：新智元 （ID：AI_era）
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。