IT之家 4 月 16 日消息,OpenAI 今天凌晨面向開發(fā)者推出 Batch 批處理 API,可在 24 小時(shí)內(nèi)給出結(jié)果,并提供 API 半價(jià)折扣。
新的 Batch API 適用于異步任務(wù)處理,如當(dāng)開發(fā)者需要處理大量文本、圖片、摘要時(shí),就可以使用該 API,OpenAI 會(huì)在 24 小時(shí)內(nèi)給出處理結(jié)果。這樣 OpenAI 可以在非高峰期處理,節(jié)約服務(wù)器資源,并為開發(fā)者提供半價(jià)優(yōu)惠,解鎖更高的速率限制。
新的 Batch API 支持使用以下模型:
gpt-3.5-turbo
gpt-3.5-turbo-16k
gpt-4
gpt-4-32k
gpt-4-turbo-preview
gpt-4-turbo
gpt-3.5-turbo-0301
gpt-3.5-turbo-16k-0613
gpt-3.5-turbo-1106
gpt-3.5-turbo-0613
gpt-4-0314
gpt-4-turbo-2024-04-09
gpt-4-32k-0314
gpt-4-32k-0613
OpenAI 已經(jīng)在 API 文檔中介紹了詳細(xì)使用方法,包括如何創(chuàng)建、取回、取消 Batch 批處理等,IT之家有需要的開發(fā)者提供官方介紹如下:
- Batch API 示例 - OpenAI API 文檔
- Batch API 常見問題與解答 | OpenAI 幫助中心
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。