OpenAI 今日宣布對(duì)其大型語(yǔ)言模型 API（包括 GPT-4 和 gpt-3.5-turbo）進(jìn)行重大更新，包括新增函數(shù)調(diào)用功能、降低使用成本、以及為 gpt-3.5-turbo 模型提供 16000 個(gè) token 的版本。

(資料圖片)

大型語(yǔ)言模型（LLM）是一種能夠處理自然語(yǔ)言的人工智能技術(shù)，它的“上下文窗口（context window）”相當(dāng)于一個(gè)短期記憶，可以存儲(chǔ)輸入的內(nèi)容或者聊天機(jī)器人的對(duì)話內(nèi)容。在語(yǔ)言模型中，增加上下文窗口大小已經(jīng)成為一種技術(shù)競(jìng)賽，Anthropic 公司最近宣布其 Claude 語(yǔ)言模型可以提供 75000 個(gè) token 上下文窗口選項(xiàng)。此外，OpenAI 也開(kāi)發(fā)了一個(gè) 32000 個(gè) token 的 GPT-4 版本，但尚未公開(kāi)推出。

OpenAI 剛剛推出了一個(gè)新的 16000 上下文窗口的 gpt-3.5-turbo 版本，名為“gpt-3.5-turbo-16k”，可以處理長(zhǎng)度達(dá)到 16000 個(gè) token 的輸入，這意味著可以一次處理大約 20 頁(yè)的文本，這對(duì)于需要模型處理和生成較大文本塊的開(kāi)發(fā)者來(lái)說(shuō)是一個(gè)很大的提升。

除了這一變化之外，OpenAI 還列出了至少四個(gè)其他主要的新功能：

在 Chat Completions API 中引入函數(shù)調(diào)用功能

GPT-4 和 gpt-3.5-turbo 的改進(jìn)版和“更易控（more steerable）”的版本

將“ada”嵌入模型的價(jià)格降低了 75%

將 gpt-3.5-turbo 模型的輸入 token 價(jià)格降低了 25%

函數(shù)調(diào)用功能可以讓開(kāi)發(fā)者更容易地構(gòu)建能夠調(diào)用外部工具、將自然語(yǔ)言轉(zhuǎn)換為外部 API 調(diào)用或進(jìn)行數(shù)據(jù)庫(kù)查詢的聊天機(jī)器人。例如，它可以將“給 Anya 發(fā)郵件，看看她下周五是否想喝咖啡”這樣的輸入轉(zhuǎn)換為“send_email (to: string, body: string)”這樣的函數(shù)調(diào)用。尤其是，這個(gè)功能還可以讓 API 用戶更容易地生成 JSON 格式的輸出，這是之前很難實(shí)現(xiàn)的。

關(guān)于“更易控”方面，這是一個(gè)指代如何讓 LLM 按照你想要的方式行事的專業(yè)術(shù)語(yǔ)，OpenAI 表示其新的“gpt-3.5-turbo-0613”模型將包含“通過(guò)系統(tǒng)消息更可靠地控制”的功能。系統(tǒng)消息是 API 中一種特殊的指令輸入，可以告訴模型如何行事，例如“你是格林姆斯，你只談?wù)撃涛簟?rdquo;

除了功能上的改進(jìn)之外，OpenAI 還提供了相當(dāng)大幅度的成本降低。值得注意的是，受歡迎的 gpt-3.5-turbo 模型的 token 價(jià)格降低了 25%。這意味著開(kāi)發(fā)者現(xiàn)在可以以每 1000 個(gè) token 約 0.0015 美元、每 1000 個(gè) token 約 0.002 美元的價(jià)格使用這個(gè)模型，相當(dāng)于每美元可以處理大約 700 頁(yè)文本。gpt-3.5-turbo-16k 模型則定價(jià)為每 1000 個(gè) token 0.003 美元、每 1000 個(gè) token 0.004 美元。

OpenAI 還將其“text-embedding-ada-002”嵌入模型的價(jià)格降低了 75%。嵌入模型是一種讓計(jì)算機(jī)理解單詞和概念的技術(shù)，可以將自然語(yǔ)言轉(zhuǎn)換為機(jī)器可以理解的數(shù)字語(yǔ)言，這對(duì)于搜索文本和推薦相關(guān)內(nèi)容等任務(wù)很重要。

由于 OpenAI 不斷更新其模型，舊的模型不會(huì)一直存在。今天，該公司還宣布開(kāi)始淘汰一些早期版本的模型，包括 gpt-3.5-turbo-0301 和 gpt-4-0314。該公司表示，開(kāi)發(fā)者可以繼續(xù)使用這些模型直至 9 月 13 日，之后這些舊模型將不再可用。值得注意的是，OpenAI 的 GPT-4 API 仍然處于等待名單中，尚未完全開(kāi)放。