人工智能您现在的位置是:首页 > 博客日志 > 人工智能

chatgpt微调fine-tuning

<a href='mailto:'>微wx笑</a>的头像微wx笑 2023-04-10人工智能 0 0关键字: chatgpt  

openai/chatgpt微调/fine-tuning/测试用/投喂资源微调涉及以下步骤:准备训练数据: 链接: https://download.csdn.net/download/gujunsheng837735/87537800直接下载可用整理了c

openai/chatgpt微调/fine-tuning/测试用/投喂资源GwM无知

微调涉及以下步骤:GwM无知

准备训练数据: 链接: https://download.csdn.net/download/gujunsheng837735/87537800GwM无知

直接下载可用GwM无知


GwM无知

整理了chatgpt微调所需要的测试资源数据,按照fine-tuning的格式生成的数据集。可以直接 fine_tunes.create -t 使用。微调完毕后可以 -p 回答结果。其中包含三四百条数据。适合测试openai自定义模型的人群使用。GwM无知


GwM无知

chatgpt微调适用于以下模型:davinci curie babbage ada。GwM无知


GwM无知

第一步:安装 OpenAI 命令行界面 (CLI)GwM无知

pip3 install --upgrade openaiGwM无知

1GwM无知

第二步:GwM无知

设置环境变量:OPENAI_API_KEYGwM无知

export OPENAI_API_KEY=“sk-************************************************”GwM无知


GwM无知

export OPENAI_API_KEY="sk-************************************************"GwM无知

1GwM无知

下载上面的准备训练数据GwM无知

格式为:GwM无知

{“prompt”: “”, “completion”: “”}GwM无知

{“prompt”: “”, “completion”: “”}GwM无知

{“prompt”: “”, “completion”: “”}GwM无知

GwM无知


GwM无知

第三步(用上面的数据可跳过):GwM无知

openai tools fine_tunes.prepare_data -f /文件存放位置/json_prepared.jsonl GwM无知

1GwM无知

它的作用是引导你完成建议的更改后,将输出保存到 JSONL 文件中。GwM无知


GwM无知

第四步:GwM无知

创建微调模型GwM无知

使用 OpenAI CLI 启动微调:GwM无知


GwM无知

openai api fine_tunes.create -t "/文件存放位置/json_prepared.jsonl" -m davinci --suffix "davinci model test01" GwM无知

1GwM无知

-m:chatgpt微调适用于以下模型:davinci curie babbage ada。(不加m参数 默认是curie)GwM无知

–suffix:自定义模型名称GwM无知


GwM无知

刚刚的命令会执行这几项操作:GwM无知


GwM无知

第一次使用json_prepared.jsonl的时候会上传文件,如果下次依旧用这个文件训练其他模型的话,就不会重复上次了。GwM无知

创建微调任务GwM无知

传输过程直到完成(一般情况挺快的,但如果前面很多排队的,你就得慢慢等,自己训练数据量的大小也会影响速度)GwM无知

如果事件中断了,可以通过以下命令来恢复:GwM无知

openai api fine_tunes.follow -i ft-************************GwM无知

1GwM无知

你的微调工作id:ft-************************GwM无知


GwM无知

微调完成以后可以在命令行测试:GwM无知

openai api completions.create -m davinci:ft-********:davinci-model-test01-2023-03-02-09-13-35 -p "小明的妈妈有三个儿子,大儿子叫大明,二儿子叫二明,三儿子叫什么。"GwM无知

1GwM无知

-m: 刚刚创建成功的微调模型名称GwM无知

-p: 你要提问的问题GwM无知

————————————————GwM无知

版权声明:本文为CSDN博主「ignore_wen」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。GwM无知

原文链接:https://blog.csdn.net/gujunsheng837735/article/details/129367715GwM无知


GwM无知

本文由 微wx笑 创作,采用 署名-非商业性使用-相同方式共享 4.0 许可协议,转载请附上原文出处链接及本声明。
原文链接:https://www.ivu4e.cn/blog/ai/2023-04-10/1833.html

很赞哦! () 有话说 ()