OpenAI 在官網(wǎng)宣布，推出 GPT-3.5Turbo 微調(diào)功能并更新 API，使企業(yè)、開(kāi)發(fā)人員可以使用自己的數(shù)據(jù)，結(jié)合業(yè)務(wù)用例構(gòu)建專(zhuān)屬 ChatGPT。
OpenAI 聲稱，這樣定制的模型可以在某些任務(wù)上達(dá)到或超過(guò) GPT-4 的能力。該公司還表示，GPT-4 的微調(diào)功能將于今年秋天推出。
OpenAI 公司在博客文章中寫(xiě)道：“自 GPT-3.5 Turbo 發(fā)布以來(lái)，開(kāi)發(fā)人員和企業(yè)都要求能夠定制模型，為用戶創(chuàng)造獨(dú)特且差異化的體驗(yàn)。此更新使開(kāi)發(fā)人員能夠定制更適合其用例的模型，并大規(guī)模運(yùn)行這些定制模型。”
通過(guò)微調(diào)，通過(guò) OpenAI 的 API 使用 GPT-3.5 Turbo 的公司可以使模型更好地遵循指令，例如讓它始終以給定的語(yǔ)言進(jìn)行響應(yīng)�；蛘撸麄兛梢蕴岣吣Ｐ鸵恢碌馗袷交憫�(yīng)的能力（例如，用于完成代碼片段），以及磨練模型輸出的“感覺(jué)”，例如它的語(yǔ)氣，以便它更好地適合品牌。
此外，微調(diào)使 OpenAI 客戶能夠縮短文本提示詞，以加快 API 調(diào)用并降低成本。OpenAI 在博客文章中聲稱：“早期測(cè)試人員通過(guò)對(duì)模型本身的指令進(jìn)行微調(diào)，將提示詞大小減少了 90%。”
目前微調(diào)需要準(zhǔn)備數(shù)據(jù)、上傳必要的文件并通過(guò) OpenAI 的 API 創(chuàng)建微調(diào)作業(yè)。該公司表示，所有微調(diào)數(shù)據(jù)都必須通過(guò)“審核”API 和 GPT-4 支持的審核系統(tǒng)，以查看是否與 OpenAI 的安全標(biāo)準(zhǔn)相沖突。但 OpenAI 計(jì)劃在未來(lái)推出一個(gè)微調(diào) UI，其中包含一個(gè)儀表板，用于檢查正在進(jìn)行的微調(diào)工作負(fù)載的狀態(tài)。
微調(diào)成本如下：
訓(xùn)練：0.008 美元 / 1K tokens
使用輸入：0.012 美元 / 1K tokens
使用輸出：0.016 美元 / 1K tokens
OpenAI 表示，包含 100,000 個(gè) token（約 75,000 個(gè)單詞）的訓(xùn)練文件的 GPT-3.5-turbo 微調(diào)工作將花費(fèi)約 2.40 美元（IT之家備注：當(dāng)前約 18 元人民幣）。
此外，OpenAI 今天提供了兩個(gè)更新的 GPT-3 基本模型（babbage-002 和 davinci-002），它們也可以進(jìn)行微調(diào)，支持分頁(yè)和“更多可擴(kuò)展性”。正如之前宣布的，OpenAI 計(jì)劃于 2024 年 1 月 4 日停用初代 GPT-3 基礎(chǔ)模型。
OpenAI 表示，對(duì) GPT-4 的微調(diào)支持（與 GPT-3.5 不同，GPT-4 可以理解除文本之外的圖像）將于今年秋季晚些時(shí)候發(fā)布，但沒(méi)有提供除此之外的具體信息。
