人工智能

OpenAI发布全新微调API :ChatGPT支持更详细可视化微调啦!

字号+作者: 来源:​ AIGC开放社区公众号 2024-04-05 10:15 评论(创建话题) 收藏成功收藏本文

声明:本文来自于微信公众号 AIGC开放社区(ID:AIGCOPEN),作者:AIGC开放社区,授权站长之家转载发布。4月5日凌晨,OpenAI在官网宣布新增6个全新微调API功能,以扩展'...

声明:本文来自于微信公众号 AIGC开放社区(ID:AIGCOPEN),作者:AIGC开放社区,授权站长之家转载发布。fA6品论天涯网

4月5日凌晨,OpenAI在官网宣布新增6个全新微调API功能,以扩展自定义模型,帮助企业、开发人员更好地构建特定领域、精细化的ChatGPT应用。fA6品论天涯网

这些功能包括:基于Epoch的检查点创建、Playground新功能、第三方集成、全面验证指标、超参数配置和更详细的微调仪表板改进。fA6品论天涯网

新的微调API功能适用于GPT-4/Turbo、GPT-3.5等系列模型。fA6品论天涯网

详细微调API教程:https://platform.opEnai.com/docs/guidEs/finE-tuningfA6品论天涯网

图片fA6品论天涯网

微调API6个功能介绍fA6品论天涯网

2023年8月22日,OpEnAI首次推出了基于GPT-3.5Turbo的微调API功能,使企业、开发人员可以使用自己的数据,结合业务用例构建专属ChatGPT。fA6品论天涯网

经过几个月的时间,全球数千个组织借助OpEnAI的微调API功能,训练了数十万个自定义模型实现降本增效。fA6品论天涯网

例如,全球知名招聘平台IndEEd希望新增一项功能,向求职者发送个性化推荐,根据求职者的技能、经验和偏好突出显示相关工作。fA6品论天涯网

IndEEd通过GPT-3.5Turbo 进行了微调,生成了高质量和更准确的个性化推荐。每月向求职者发送的消息也最初从不到100万条,大幅度增加到大约2000万条fA6品论天涯网

今天,OpEnAI推出了6个新的微调API功能,以帮助开发人员更好地使用微调。fA6品论天涯网

基于Epoch的检查点创建:在深度学习模型的训练过程中,基于Epoch的检查点创建是一项非常重要的功能。每个Epoch结束时或者在特定的Epoch间隔时,系统会自动保存当前模型的状态,包括模型的参数(权重和偏置)和优化器的状态。fA6品论天涯网

如果训练过程因为意外原因(比如硬件故障、电源中断等)被中断,检查点允许我们从最后保存的状态恢复训练,而不是从头开始。fA6品论天涯网

所以,OpenAI新增的基于 Epoch 的检查点创建功能,可以极大减少模型的重复训练,尤其是在过度拟合的情况下。fA6品论天涯网

Playground:Playground是OpenAI在2022年发布的一个可视化模型比较平台,提供了一个交互式的在线环境,允许用户输入指令或提示,然后将其发送给多个语言模型查看它们的输出结果。fA6品论天涯网

本次,OpenAI新增一个并排的Playground UI,用于比较不同模型质量和性能,同时允许对多个模型的输出进行人工评估或根据单个提示微调快照。fA6品论天涯网

图片fA6品论天涯网

第三方集成:新的微调支持与第三方平台集成,让开发人员与堆栈的其余部分共享详细的微调数据。fA6品论天涯网

全面验证指标:能够计算整个验证数据集(而不是采样批次)的损失和准确性等指标,从而更好地了解模型质量。fA6品论天涯网

微调仪表板改进:包括配置超参数、查看更详细的训练指标以及从以前的配置重新运行作业等功能。这也就是说,开发人员在微调的过程中可以掌控更详细、直观的微调数据。fA6品论天涯网

图片fA6品论天涯网

超参数配置:可以从仪表板配置可用的超参数,而不仅仅是通过API或SDK。fA6品论天涯网

什么是微调fA6品论天涯网

微调(FinE-tuning)是一种在预训练大模型的基础上,进一步优化和调整模型参数的技术,使模型更好地适应特定业务场景。这个过程中,模型的参数会进行微小的调整。fA6品论天涯网

微调的主要流程包括:初始化,使用预训练语言模型的参数对新模型进行初始化;添加输出层,根据下游任务的目标(文本生成、内容摘要等)在预训练模型的顶层添加相应的输出层;fA6品论天涯网

微调训练,使用带标注的私有数据,以较小的学习率对整个模型进行训练,直至模型在验证集上的指标达到理想效果。fA6品论天涯网

例如,我们希望GPT3.5模型在法律业务上的表现更好、更专业,可以用海量法律数据集对模型进行微调。经过微调,模型学习到如何更好地解读、生成和预测法律问题。fA6品论天涯网

如何进行微调fA6品论天涯网

1,准备数据,创建一组多样化的演示对话,类似于要求模型在实际输出中的对话。数据集中的每个示例都应该与OpenAI的聊天完成 API 格式相同的对话,特别是消息列表,其中每条消息都有角色、内容和可选名称。fA6品论天涯网

图片fA6品论天涯网

2,上传文件fA6品论天涯网

图片fA6品论天涯网

3,创建微调作业,使用 OpenAI SDK开始进行大规模数据训练、微调。训练模型可能需要几分钟或几小时,具体取决于模型和数据集大小。fA6品论天涯网

模型训练完成后,创建微调作业的用户将收到一封确认电子邮件。fA6品论天涯网

图片fA6品论天涯网

除了创建微调作业外,开发者还可以列出现有作业、检索作业状态或取消作业。fA6品论天涯网

图片fA6品论天涯网

4,使用微调模型,微调作业完成后模型可以投入使用了。fA6品论天涯网

图片fA6品论天涯网

在某些情况下,用户的微调模型可能需要几分钟才能准备好处理请求。如果对模型的请求超时或找不到模型名称,可能是因为模型仍在加载中,可在几分钟后重试。fA6品论天涯网

本文素材来源OpenAI官网,如有侵权请联系删除fA6品论天涯网

ENDfA6品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]