OpenAI发布全新微调API :ChatGPT支持更详细可视化微调

4月5日凌晨,Open‍AI在官网宣布新增6个全新微调API功能,以扩展自定义模型,帮助企业、开发人员更好地构建特定领域、精细化的ChatGPT应用。

这些功能包括:基于Epoch的检查点创建、Playground新功能、第三方集成、全面验证指标、超参数配置和更详细的微调仪表板改进。

新的微调API功能适用于GPT-4/Turbo、GPT-3.5等系列模型。

详细微调API教程:https://platform.openai.com/docs/guides/fine-tuning

OpenAI发布全新微调API :ChatGPT支持更详细可视化微调

目录

Toggle

微调API6个新功能介绍

2023年8月22日,OpenAI首次推出了基于GPT-3.5 Turbo的微调API功能,使企业、开发人员可以使用自己的数据,结合业务用例构建专属ChatGPT

经过几个月的时间,全球数千个组织借助OpenAI的微调API功能,训练了数十万个自定义模型实现降本增效。

例如,全球知名招聘平台Indeed希望新增一项功能,向求职者发送个性化推荐,根据求职者的技能、经验和偏好突出显示相关工作。

Indeed通过GPT-3.5 Turbo 进行了微调,生成了高质量和更准确的个性化推荐。每月向求职者发送的消息也从最初不到100万条,大幅度增加到大约2000万条

今天,OpenAI推出了6个新的微调API功能,以帮助开发人员更好地使用微调。

基于Epoch的检查点创建:在深度学习模型的训练过程中,基于Epoch的检查点创建是一项非常重要的功能。每个Epoch结束时或者在特定的Epoch间隔时,系统会自动保存当前模型的状态,包括模型的参数(权重和偏置)和优化器的状态。

如果训练过程因为意外原因(比如硬件故障、电源中断等)被中断,检查点允许我们从最后保存的状态恢复训练,而不是从头开始。

所以,OpenAI新增的基于 Epoch 的检查点创建功能,可以极大减少模型的重复训练,尤其是在过度拟合的情况下。

Comparative Playground:Playground是OpenAI在2022年发布的一个可视化模型比较平台,提供了一个交互式的在线环境,允许用户输入指令或提示词,然后将其发送给多个语言模型查看它们的输出结果。

本次,OpenAI新增一个并排的Playground UI,用于比较不同模型质量和性能,同时允许对多个模型的输出进行人工评估或根据单个提示微调快照。

OpenAI发布全新微调API :ChatGPT支持更详细可视化微调 AI资讯 图2张

第三方集成:新的微调支持与第三方平台集成,让开发人员与堆栈的其余部分共享详细的微调数据。

全面验证指标:能够计算整个验证数据集(而不是采样批次)的损失和准确性等指标,从而更好地了解模型质量。

超参数配置:可以从仪表板配置可用的超参数,而不仅仅是通过API或SDK。

微调仪表板改进:包括配置超参数、查看更详细的训练指标以及从以前的配置重新运行作业等功能。这也就是说,开发人员在微调的过程中可以掌控更详细、直观的微调数据。

OpenAI发布全新微调API :ChatGPT支持更详细可视化微调 AI资讯 图3张

什么是微调

微调(Fine-tuning)是一种在预训练大模型的基础上,进一步优化和调整模型参数的技术,使模型更好地适应特定业务场景。这个过程中,模型的参数会进行微小的调整。

微调的主要流程包括:

初始化,使用预训练语言模型的参数对新模型进行初始化;添加输出层,根据下游任务的目标(文本生成、内容摘要等)在预训练模型的顶层添加相应的输出层;微调训练,使用带标注的私有数据,以较小的学习率对整个模型进行训练,直至模型在验证集上的指标达到理想效果。

例如,我们希望GPT3.5模型在法律业务上的表现更好、更专业,可以用海量法律数据集对模型进行微调。经过微调,模型学习到如何更好地解读、生成和预测法律问题。

如何进行微调

1、准备数据,创建一组多样化的演示对话,类似于要求模型在实际输出中的对话。数据集中的每个示例都应该与OpenAI的聊天完成 API 格式相同的对话,特别是消息列表,其中每条消息都有角色、内容和可选名称。

OpenAI发布全新微调API :ChatGPT支持更详细可视化微调 AI资讯 图4张

2、上传文件

OpenAI发布全新微调API :ChatGPT支持更详细可视化微调 AI资讯 图5张

3、创建微调作业,使用 OpenAI SDK开始进行大规模数据训练、微调。训练模型可能需要几分钟或几小时,具体取决于模型和数据集大小。

模型训练完成后,创建微调作业的用户将收到一封确认电子邮件。

OpenAI发布全新微调API :ChatGPT支持更详细可视化微调 AI资讯 图6张

除了创建微调作业外,开发者还可以列出现有作业、检索作业状态或取消作业。

OpenAI发布全新微调API :ChatGPT支持更详细可视化微调 AI资讯 图7张

4、使用微调模型,微调作业完成后模型可以投入使用了。

OpenAI发布全新微调API :ChatGPT支持更详细可视化微调 AI资讯 图8张

在某些情况下,用户的微调模型可能需要几分钟才能准备好处理请求。如果对模型的请求超时或找不到模型名称,可能是因为模型仍在加载中,可在几分钟后重试。

   特别声明    本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。