LLM - SFT workflow 微调工作流程
目录
一.引言
二.Workflow 分流程拆解
1. Workflow 代码
2.Workflow 拆解
◆ 超参数初始化
◆ 数据集初始化
◆ 加载与量化
◆ 数据集预处理
◆ DataCollator
◆ 模型微调 sft
三.总结
一.引言
前面我们对 LLM 相关流程的单步都做了分析与代码示例,下面结合代码将上述部分整理到一个 workflow 中,并给出框架中完整的 workflow 工作流,以供大家熟悉 LLM 训练过程的流程。
Tips:
本文数据集与代码主要参考 Github LLaMA-Efficient-Tuning。
二.Workflow 分流程拆解
1. Workflow 代码
这里只给出了 SFT 微调的 Workflow,更多完整代码可以参考引言中的 git 项目,或者代码顶部给出的 HF Transformer 的代码。
# Inspired by: https://github.com/huggingface/transformers/blob/v4.29.2/examples/pytorch/summarization/run_summarization.pyfrom typing import TYPE_CHECKING, Optional, List
from transformers import DataCollatorForSeq2Seq, Seq2SeqTrainingArgumentsfrom llmtuner.dsets import get_dataset, preprocess_dataset, split_dataset
from llmtuner.extras.constants import IGNORE_INDEX
from llmtuner.extras.misc import get_logits_processor
from llmtuner.extras.ploting import plot_loss
from llmtuner.tuner.core import load_model_and_tokenizer
from llmtuner.tuner.sft.metric import ComputeMetrics
from llmtuner.tuner.sft.trainer import Seq2SeqPeftTrainerif TYPE_CHECKING:from transformers import TrainerCallbackfrom llmtuner.hparams import ModelArguments, DataArguments, FinetuningArguments, GeneratingArguments# 1.通过 parser 获取参数
def run_sft(model_args: "ModelArguments",data_args: "DataArguments",training_args: "Seq2SeqTrainingArguments",finetuning_args: "FinetuningArguments",generating_args: "GeneratingArguments",callbacks: Optional[List["TrainerCallback"]] = None
):# 2.Get Batch DataSetdataset = get_dataset(model_args, data_args)# 3.Load Lora Model And Bit or Notmodel, tokenizer = load_model_and_tokenizer(model_args, finetuning_args, training_args.do_train, stage="sft")# 4.Process Datasetdataset = preprocess_dataset(dataset, tokenizer, data_args, training_args, stage="sft")# 5.Data Collatordata_collator = DataCollatorForSeq2Seq(tokenizer=tokenizer,label_pad_token_id=IGNORE_INDEX if data_args.ignore_pad_token_for_loss else tokenizer.pad_token_id)# 6.Training Args 转化# Override the decoding parameters of Seq2SeqTrainertraining_args_dict = training_args.to_dict()training_args_dict.update(dict(generation_max_length=training_args.generation_max_length or data_args.max_target_length,generation_num_beams=data_args.eval_num_beams or training_args.generation_num_beams))training_args = Seq2SeqTrainingArguments(**training_args_dict)# Initialize our Trainertrainer = Seq2SeqPeftTrainer(finetuning_args=finetuning_args,model=model,args=training_args,tokenizer=tokenizer,data_collator=data_collator,callbacks=callbacks,compute_metrics=ComputeMetrics(tokenizer) if training_args.predict_with_generate else None,**split_dataset(dataset, data_args, training_args))# Keyword arguments for `model.generate`gen_kwargs = generating_args.to_dict()gen_kwargs["eos_token_id"] = [tokenizer.eos_token_id] + tokenizer.additional_special_tokens_idsgen_kwargs["pad_token_id"] = tokenizer.pad_token_idgen_kwargs["logits_processor"] = get_logits_processor()# Trainingif training_args.do_train:train_result = trainer.train(resume_from_checkpoint=training_args.resume_from_checkpoint)trainer.log_metrics("train", train_result.metrics)trainer.save_metrics("train", train_result.metrics)trainer.save_state()trainer.save_model()if trainer.is_world_process_zero() and model_args.plot_loss:plot_loss(training_args.output_dir, keys=["loss", "eval_loss"])# Evaluationif training_args.do_eval:metrics = trainer.evaluate(metric_key_prefix="eval", **gen_kwargs)if training_args.predict_with_generate: # eval_loss will be wrong if predict_with_generate is enabledmetrics.pop("eval_loss", None)trainer.log_metrics("eval", metrics)trainer.save_metrics("eval", metrics)# Predictif training_args.do_predict:predict_results = trainer.predict(dataset, metric_key_prefix="predict", **gen_kwargs)if training_args.predict_with_generate: # predict_loss will be wrong if predict_with_generate is enabledpredict_results.metrics.pop("predict_loss", None)trainer.log_metrics("predict", predict_results.metrics)trainer.save_metrics("predict", predict_results.metrics)trainer.save_predictions(predict_results)
2.Workflow 拆解
◆ 超参数初始化
Model、Data、Training、Generate Agruments 超参解析https://blog.csdn.net/BIT_666/article/details/132755841?spm=1001.2014.3001.5501
这里除了传递模型对应的地址或路径外,主要传递相关的训练参数、微调参数、生成参数等。
◆ 数据集初始化
批量加载 dataset 并合并https://blog.csdn.net/BIT_666/article/details/132825731?spm=1001.2014.3001.5501
data_args 包含相关的 dataset 参数,我们这里加载 alpaca_data_zh_51k.json 数据集:
我们取前5行输出查看下 dataset:
def show(dataset):show_info = dataset.select(range(5))print(show_info)for row in show_info:print(row)
features 给出的列比较多,我们主要关注 prompt 提示词,query 问题与 response 回复即可。
◆ 加载与量化
Model Load_in_8bit or 4bithttps://blog.csdn.net/BIT_666/article/details/132490630?spm=1001.2014.3001.5501
这里函数具体逻辑可以参考前面给出的链接。主要负责从 model_args 获取模型参数,从 finetuning_args 获取微调相关参数,例如 lora_target、lora_rank 等。模型加载通过 HF 的 Auto 组件,Lora 模型通过 Peft 库实现。
Base Model For Baichuan:
模型加载后打印的相关模型配置,可以看到模型类型,一些 Special Token Id 以及之前提到的 silu 激活函数等等。 这里我们没有用到量化的模型,不过新的 Baichuan2 提供了 8bit 和 4bit 的在线量化和离线量化方案供大家选择。
LoRA Info For Baichuan:
由于是 SFT 微调,所以通过 peft 增加了 LoRA 模块,这里 lora_target 为 'W_pack',也是打印出了我们微调参数量占总参数量的比例。
◆ 数据集预处理
Process Dataset For LLM With PT、SFT、RMhttps://blog.csdn.net/BIT_666/article/details/132830908?spm=1001.2014.3001.5501
因为数据预处理需要对应模型的 tokenizer,所以需要先进行模型和 tokenizer 的加载, 这里我们最近的文章介绍了 SFT、PT、RM 三种模式数据集的处理方式,同样运行代码看看前5行数据经过 prepross 变成什么样:
处理后 dataset 只包含了 SFT 所需的相关内容,input_ids 为 input 对应的 token ids,这里 input 为 prompt + "\t" + query + response,labels 把除 response 外的部分都掩码掉。
以第一条记录为例,input_ids 为 prompt + query + response,label_ids 将对应的 token 用 -100 的 IGNORE_INDEX 替换,其对应的 token 为 <unk>,最后结尾处的 <s> 对应 token id 为 2,所以句子都以 2 结尾。
◆ DataCollator
DataCollator 样本生成https://blog.csdn.net/BIT_666/article/details/131701620?spm=1001.2014.3001.5501
模型的 trainer 还需要 data_collator 生成对应的训练数据,这里指定了 Tokenizer 和对应的 pad_token_ids。
◆ 模型微调 sft
Baichuan7B Lora 训练详解https://blog.csdn.net/BIT_666/article/details/131675165?spm=1001.2014.3001.5501
训练主要继承自 from transformers import Seq2SeqTrainer:
split_dataset 负责将数据集划分,分成 train 和 eval 部分:
模型训练日志:
三.总结
做大模型就像过山车。觉得它很厉害,但看结构就是 Transformer 的堆叠;觉得它简单训练微调就行,但需要雄厚的实力和财力才能玩得起;workflow 的代码看起来逻辑很清晰,但其实里面又包含了很多的小细节值得学习。纠结的学习过程,且看且学。
LLM - SFT workflow 微调工作流程相关推荐
- Design Development Workflow with Framer X 使用Framer X进行设计和开发工作流程 Lynda课程中文字幕
Design & Development Workflow with Framer X 中文字幕 使用Framer X进行设计和开发工作流程 中文字幕Design & Developm ...
- Final Cut Pro X Logic Pro X: 1 Audio Post Workflow Final Cut Pro X和Logic Pro X:1音频后期工作流程 Lynda课程中
Final Cut Pro X & Logic Pro X: 1 Audio Post Workflow 中文字幕 Final Cut Pro X和Logic Pro X:1音频后期工作流程 ...
- Mac 自动化自动操作工作流程(Workflow)完成日常软件文件网页一键打开
进入软件<启动台>,找到<自动操作>工具(其他),打开,点击下方<新建文稿>. 提示选择文稿类型,选<工作流程>,点<选取>进入新建. 1. ...
- Git多人协作工作流程
前言 之前一直把Git当做个人版本控制的工具使用,现在由于工作需要,需要多人协作维护文档,所以去简单了解了下Git多人协作的工作流程,发现还真的很多讲解的,而且大神也已经讲解得很清楚了,这里就做一个简 ...
- Revit: Twinmotion工作流程学习
Revit: Twinmotion Workflow MP4 |视频:h264,1280×720 |音频:AAC,44.1 KHz,2 Ch 技能等级:中级|语言:英语+中英文字幕(根据原英文字幕机译 ...
- travis ci_如何使用Travis CI和GitHub进行Web开发工作流程
travis ci by Vijayabharathi Balasubramanian 通过Vijayabharathi Balasubramanian 如何使用Travis CI和GitHub进行W ...
- Struts2的工作流程
Struts2与WebWork的工作方式类似,它同样使用了拦截器作为其处理用户请求的控制器.在Struts2中有一个核心控制器FilterDispatcher,这个核心控制器相当于Struts1的Ac ...
- Gitflow工作流程
在工作场合实施Git的时候,有很多种工作流程可供选择,此时反而会让你手足无措.本文罗列了企业团队最常用的一些git工作流程,包括Centralized Workflow.Feature Branch ...
- Matplotlib(一)工作流程
Matplotlib 是一个 Python 的 2D绘图库,它以各种硬拷贝格式和跨平台的交互式环境生成出版质量级别的图形 .通过 Matplotlib,开发者可以仅需要几行代码,便可以生成绘图,直 ...
- illustrator下载_平面设计:16个Illustrator快捷方式可加快工作流程
illustrator下载 I know, I know - keyboard shortcuts sound so nerdy, and you're a graphic designer, not ...
最新文章
- mongDB的常用操作总结
- 【自学笔记】定义一个标准的WPF窗口
- 延长端粒续命有风险,科学家警告:端粒过长反而容易患癌
- 这是给程序员专用的书吗?
- linux 本地账号密码无法登陆(shell可以登录),一直返回 登陆的login界面
- 如何把c语言程序的数据导出到文档,急求如何将下列C语言程序数据存储到文件中?...
- python设计模式之享元模式
- 双击程序后系统弹框“您无权访问此程序”的解决办法
- 8080端口被占用怎么解决_端口占用不会搞?两行命令就解决!
- PCL三维点云拼接融合
- Atitit.导出excel报表的设计与实现java .net php 总结
- 【CPLEX】Java调用CPLEX的一些小笔记
- android gps原始数据格式,Android编程获取GPS数据的方法详解
- 计算机上自带的打字游戏,完美运行金山打字通2016(包括自带的小游戏)
- 隔离出来的“陋室铭”
- 解决IAR printf函数输出中文字符乱码问题
- 知乎,挣钱?果然具有长尾效应
- 计算机原理---网络基础知识
- mybatis-plus乐观锁配置
- 指定 Cesium 加载时的初始位置和视角
热门文章
- 如何提高自己的创造力?
- Mentor-dft 学习笔记 day46-Graybox OverviewTessent On-Chip Clock Controller(1)
- 至少10亿元!默克宣布将新增电子科技业务在华投资;Infosys被评为全球增长最快的IT服务品牌 | 全球TMT...
- 超长文全面解析设备树
- QQ2013 密码获取(Ring3)
- Cesium自定义飞行漫游,可设定
- 动态规划--完全背包问题1
- https://download.csdn.net/download/u012254142/6324285
- PT5-25页暗色互联网发布会年终汇报晋升竞聘报告PPT模板
- ET钱包2月18日早报|EOS私钥恢复系统即将完成