OpenAI又開(kāi)大!推出GPT-3.5 Turbo“微調(diào)”功能,人人都能定制ChatGPT
OpenAI最近動(dòng)作不斷。上個(gè)月7號(hào),在數(shù)百萬(wàn)開(kāi)發(fā)者的催促下,OpenAI終于開(kāi)放了GPT-4的API權(quán)限。沒(méi)多久,OpenAI又宣布開(kāi)放GPT-4的“代碼解釋器”功能,一下子讓GPT-4的能力有了飛躍,所以開(kāi)發(fā)者們都戲稱它為“GPT-4.5”。
不過(guò)這不算完,OpenAI之前一直在給GPT-4開(kāi)發(fā)“DLC”(擴(kuò)展包的意思),而對(duì)之前的功臣GPT-3.5有點(diǎn)厚此薄彼了,畢竟和GPT-4比起來(lái),GPT-3.5是不要錢的,也就意味著它的用戶數(shù)量不在少數(shù),只給“氪金”的玩家開(kāi)放福利,不給“零充”玩家們一點(diǎn)甜頭,那就等著被玩家們討伐吧。
你當(dāng)OpenAI不知道這一點(diǎn)?就在今天OpenAI在官網(wǎng)上宣布,也給GPT-3.5帶來(lái)了升級(jí)包——“微調(diào)”功能。
人人都可定制ChatGPT?
今天,OpenAI 在官網(wǎng)宣布,推出 GPT-3.5Turbo 微調(diào)功能并更新 API,使企業(yè)、開(kāi)發(fā)人員可以使用自己的數(shù)據(jù),結(jié)合業(yè)務(wù)用例構(gòu)建專屬 ChatGPT。
而至于效果,OpenAI表示經(jīng)過(guò)實(shí)際測(cè)試,定制的模型可以趕上甚至超過(guò) GPT-4 執(zhí)行某些任務(wù)的能力。GPT-4用戶感覺(jué)到背刺!
并且OpenAI 強(qiáng)調(diào),傳入和傳出微調(diào) API 的數(shù)據(jù)歸客戶所有, OpenAI 或任何其他組織不會(huì)使用這些數(shù)據(jù)來(lái)訓(xùn)練其他模型。
至于微調(diào)后,定制模型會(huì)有性能提升,OpenAI也在“微調(diào)指南”里注明了,比如:
改善可操縱性:
微調(diào)允許企業(yè)引導(dǎo)模型更好地遵循指令,例如輸出更簡(jiǎn)潔的答案,或者始終以給定語(yǔ)言做出響應(yīng)。開(kāi)發(fā)人員可以通過(guò)微調(diào)保證模型在收到德語(yǔ)提示詞后,始終以德語(yǔ)給出回應(yīng)。
更可靠的輸出格式:
微調(diào)使模型所輸出響應(yīng)結(jié)果的格式更加統(tǒng)一。對(duì)于需要特定響應(yīng)格式的應(yīng)用場(chǎng)景(例如代碼補(bǔ)全或編寫(xiě) API 調(diào)用),這種格式可靠性至關(guān)重要。例如,開(kāi)發(fā)人員可以用微調(diào)將用戶提示詞轉(zhuǎn)換為可在系統(tǒng)中使用的高質(zhì)量 JSON 片段。
自定義調(diào)節(jié):
微調(diào)是提升模型輸出質(zhì)量的好辦法(包括改善語(yǔ)氣、風(fēng)格),更好地適應(yīng)企業(yè)品牌的固有定位。擁有知名品牌調(diào)性的企業(yè)可以對(duì)模型做出微調(diào),使其與自身市場(chǎng)形象更趨一致。
而且微調(diào)不光能提高性能,還能縮短提示詞長(zhǎng)度,并保證性能基本不變。早期測(cè)試人員還對(duì)模型本身的指令進(jìn)行了微調(diào),從而加快了API調(diào)用還降低了成本,讓prompt減少了90%。
此外,微調(diào)可以讓定制的GPT-3.5 Turbo模型處理4k個(gè)tokens,達(dá)到了之前的2倍!并且OpenAI還表示,支持16ktokens的版本將在今年秋季推出。
更強(qiáng)了,也更貴了!
天底下沒(méi)有免費(fèi)的午餐。微調(diào)確實(shí)讓GPT-3.5Turbo更強(qiáng)了,但同時(shí)也更貴了。
根據(jù)OpenAI公布的定價(jià),GPT-3.5Turbo的微調(diào)分為兩個(gè)部分,分別為初始訓(xùn)練成本與使用成本:
訓(xùn)練階段:1k tokens 要 0.008 美元
使用輸入:1k tokens 要 0.012 美元
使用輸出:1k tokens 要 0.016 美元
例如,如果要對(duì) 10 萬(wàn) tokens 的訓(xùn)練文件進(jìn)行微調(diào),并訓(xùn)練 3 個(gè) epochs,則預(yù)計(jì)成本為 2.40 美元。
不光是GPT-3.5,GPT-3也更新了!7月的時(shí)候,OpenAI 宣布各初版 GPT-3 基礎(chǔ)模型(ada、babbage、curie 和 davinci)將于 2024 年 1 月 4 日正式關(guān)閉。
同在今天,OpenAI再次更新GPT-3模型,并提供了babbage-002和davinci-002作為以上模型替代品,可以作為基礎(chǔ)模型或微調(diào)模型來(lái)使用。
客戶也可以通過(guò)查詢Completions API來(lái)訪問(wèn)這些模型。
另外,這些模型使用新的API端口/v1/fine_tuning/jobs進(jìn)行微調(diào)。
該端口取代了/v1/fine-tunes舊端口(2024年1月4日關(guān)閉),提供了分頁(yè)和更多可擴(kuò)展性,以支持微調(diào)API的未來(lái)發(fā)展。
下面是各基礎(chǔ) / 微調(diào) GPT-3 模型的定價(jià):
根據(jù)這個(gè)價(jià)格算筆賬,微調(diào)后的GPT-3.5 Turbo價(jià)格是基礎(chǔ)GPT-3.5 模型的8倍!
GPT-4也有微調(diào)!
GPT-4用戶感覺(jué)到背刺了?那倒也不必,因?yàn)镺penAI在公告中表示,AI天花板GPT-4的微調(diào)馬上也會(huì)來(lái)的,幾個(gè)月后正式上線!
而且在對(duì)GPT-3.5 Turbo微調(diào)時(shí),所有微調(diào)數(shù)據(jù)都必須通過(guò)“審核”API 和 GPT-4 支持的審核系統(tǒng),以查看是否與 OpenAI 的安全標(biāo)準(zhǔn)相沖突。OpenAI 還計(jì)劃在未來(lái)推出一個(gè)微調(diào) UI,其中包含一個(gè)儀表板,用于檢查正在進(jìn)行的微調(diào)工作負(fù)載的狀態(tài)。
GPT-3.5的微調(diào)價(jià)格已經(jīng)是之前的8倍了,那GPT-4微調(diào)會(huì)貴多少呢?再加上GPT-4本身就是付費(fèi)使用,價(jià)格再上漲一點(diǎn),對(duì)個(gè)人和企業(yè)來(lái)說(shuō)都是一筆不小的費(fèi)用,會(huì)不會(huì)受到人們歡迎還未可知。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
3月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會(huì)
-
4月30日立即下載>> 【村田汽車】汽車E/E架構(gòu)革新中,新智能座艙挑戰(zhàn)的解決方案
-
5月15-17日立即預(yù)約>> 【線下巡回】2025年STM32峰會(huì)
-
即日-5.15立即報(bào)名>>> 【在線會(huì)議】安森美Hyperlux™ ID系列引領(lǐng)iToF技術(shù)革新
-
5月15日立即下載>> 【白皮書(shū)】精確和高效地表征3000V/20A功率器件應(yīng)用指南
-
5月16日立即參評(píng) >> 【評(píng)選啟動(dòng)】維科杯·OFweek 2025(第十屆)人工智能行業(yè)年度評(píng)選
推薦專題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開(kāi)始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀(jì)”爆發(fā)至今,五類新物種登上歷史舞臺(tái)
- 5 國(guó)產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計(jì)算迎來(lái)商業(yè)化突破,但落地仍需時(shí)間
- 7 東陽(yáng)光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開(kāi)成長(zhǎng)空間
- 8 地平線自動(dòng)駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營(yíng)收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機(jī)器人東風(fēng)翻身?