GPT-3.5 Turbo支援微调,你的AI将更客制化!OpenAI:某些任务比GPT-4强
▼
OpenAI宣布,用户现在可以将自定义的数据资料加入GPT-3.5 Turbo,而这也是OpenAI系列中功能最强大且最具经济的模型。官方声称,在某些特定任务的表现上,经过微调后的GPT-3.5 Turbo,甚至可以拥有超越GPT-4的能力。
We’ve just launched fine-tuning for GPT-3.5 Turbo! Fine-tuning lets you train the model on your company’s data and run it at scale. Early tests have shown that fine-tuned GPT-3.5 Turbo can match or exceed GPT-4 on narrow tasks: https://t.co/VaageW9Kaw pic.twitter.com/nndOyxS2xs
OpenAI宣布开放GPT-3.5 Turbo的微调功能
自定义数据资料,能够为GPT-3.5 Turbo带来什么改变?
OpenAI的官方部落格指出,自GPT-3.5 Turbo发布以来,开发者和企业一直要求能够自定义该模型,为用户创造独特和差异化的体验。此次加入微调功能的更新,让开发者能够自定义更适合其状况的模型,并大规模运作。
延伸阅读:ChatGPT大更新,能输入20页文件、GPT-4、GPT-3.5都进化!六项更新一次看
《TechCrunch》指出,透过微调功能,GPT-3.5 Turbo的使用者可以使模型在遵循指令上有更好的效果,例如总是以特定的语言回答问题,或是提升模型的能力,以便回答更加标准化,这对于需要特定格式的应用程式来说至关重要。此外,也可以调整模型输出的“感觉”,使其更符合企业的形象需求。《The Verge》亦指出,经过这样“训练”后的模型,将使聊天机器人成为每间公司独一无二的工具,从而以特定语言或更简洁的措辞提供可靠的回复。
聊天机器人在未来将成为每间公司独一无二的工具。
图/ Zac Wolff on Unsplash
微调还能让用户缩短每次“咏唱”时的文字提示(Prompt),以加快API呼叫时间并降低成本。OpenAI宣称,“早期测试人员透过将指令微调到模型本身,将提示词的长度减少90%。”而微调在与其他技术结合时效果最为强大,例如提示工程、资讯检索和函数调用等等。
延伸阅读:GPT-4跟GPT-3.5差在哪?免费和付费方式怎么用?详解ChatGPT原理
GPT-3.5 Turbo微调所费不赀,用户都会买单吗?
OpenAI官方将微调功能的价格分为训练成本与使用成本:
官方公告定价
价格 | Tokens | |
---|---|---|
训练阶段 | $0.008 | 1K Tokens |
使用输入 | $0.012 | 1K Tokens |
使用输出 | $0.016 | 1K Tokens |
举例来说,假设进行了一个GPT-3.5 Turbo的微调任务,使用了一个包含100,000个tokens的训练档案,进行了3轮的训练,预计的成本将会是2.4美元。而这样的价格也引起用户的讨论,Y Combinator旗下新闻聚合网站《Hacker News》的用户便在评论中指出,从经过微调的GPT-3.5 Turbo生成内容的成本,是从基本模型生成的成本的8倍,所以真的要确保能够符合“将提示词减少9成”的情况才有办法获利。
微调的GPT-3.5 Turbo生成内容的成本是基本模型的8倍,所以要确保能够符合“将提示词减少9成”的情况才有办法获利。
图/ Canva
但同时有观点指出,相较于GPT-3.5 Turbo,GPT-4的成本要高出20至30倍。依目前的能力来看,虽然GPT-3.5 Turbo还是无法取代GPT-4,但外媒《Decrypt》认为对于这样的功能来说,溢价是值得的。
GPT-4也会持续更新
《Decrypt》指出,随着生成人工智慧(AI)霸主地位的争夺战愈演愈烈,“客制化”可能是OpenAI的下一个护城河。官方也提到今年秋天也将针对GPT-4加入微调功能,届时还将支援函式呼叫(Function Calling)和GPT-3.5 Turbo-16k(能处理更大量文字的模型,约为GPT-3.5 Turbo的4倍)的微调。
延伸阅读:细看GPT-4,还有14个惊人细节!这项特征为何令人背后一凉?
资料来源:OpenAI、TechCrunch、Decrypt、The Verge
责任编辑:陈建钧、林美欣
▼
特别声明 本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。