YOLOv5 gpu 训练自定义模型训练

说明：

1、训练过程请参考官网：https://github.com/ultralytics/yolov5/wiki/Train-Custom-Data

2、本课使用的是YOLOv5 6.1版本，其他版本训练过程可能有不同，请以官网为准

3、硬件：Windows 11 、GPU GeForce 3070Ti（8G）

YOLOv5训练自定义模型

一、安装Pytorch 及 YOLO v5

1.1 安装pytorch GPU版

1.1.1 准备工作

先去pytorch官网查看支持的最高CUDA版本；

pytorch

最新版：https://pytorch.org/get-started/locally/
历史版本：https://pytorch.org/get-started/previous-versions/

再查看所需CUDA版本对应的显卡驱动版本：

查看自己显卡最高支持的cuda 的版本

nvidia-smi.exe

我的显卡驱动版本是497.09 支持的cuda最高版本是11.5

查看cuda版本和显卡驱动的对应关系：
https://tech.amikelive.com/node-930/cuda-compatibility-of-nvidia-display-gpu-drivers/

下载显卡对应版本驱动：
查看自己机器的显卡型号

最新版显卡驱动：https://www.nvidia.com/download/index.aspx

其他历史版本显卡驱动：https://www.nvidia.com/Download/Find.aspx

下载对应版本CUDA：

官网：https://developer.nvidia.com/cuda-toolkit-archive

下载对应版本cuDNN

参考TensorFlow GPU支持CUDA列表：https://www.tensorflow.org/install/source_windows?hl=zh-cn
查看cuDNN和CUDA支持对应版本号

cudnn官网：https://developer.nvidia.com/zh-cn/cudnn

下载VS studio：https://visualstudio.microsoft.com/zh-hans/

VS studio：安装社区版即可
安装顺序：
- VS studio：安装社区版即可
- 显卡驱动：安装完重启电脑可以使用nvidia-smi查看显卡信息
- CUDA：按流程安装即可
  C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.5
- cudnn：
  - 解压cudnn压缩文件：
  - 进入cuda目录，将cudnn所有文件复制并替换
    
    C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.5

https://zhuanlan.zhihu.com/p/460806048

  * 如我的cuda目录位置为：`C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1`* 更改环境变量：

验证cuda是否安装成功
验证cuda是否安装成功，首先win+R启动cmd，进入到CUDA安装目录下的C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.5\extras\demo_suite然后分别运行bandwidthTest.exe和deviceQuery.exe,应该得到图28，返回Result=PASS表示cuda安装成功。图28中只运行了bandwidthTest.exe，同样运行deviceQuery.exe也可得到PASS。

  * 双击path<img src="https://enpei-md.oss-cn-hangzhou.aliyuncs.com/img20220331174452.png?x-oss-process=style/wp" style="zoom: 33%;" />* 新建2个路径（cuda bin、libnvvp）* 如我的路径为：`C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\bin`和`C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\libnvvp`<img src="https://enpei-md.oss-cn-hangzhou.aliyuncs.com/img20220331174627.png?x-oss-process=style/wp" style="zoom:33%;" />

重启电脑

1.1.2 安装pytorch

创建conda虚拟环境，参考你选择的版本安装即可

最新版：https://pytorch.org/get-started/locally/
历史版本：https://pytorch.org/get-started/previous-versions/

pip install torch1.12.1+cu113 torchvision0.13.1+cu113 torchaudio==0.12.1 --extra-index-url https://download.pytorch.org/whl/cu113

验证 PyTorch是否安装成功
打开Anaconda prompt命令窗口，激活环境，输入python，进入python开发环境中
1.import torch

2.torch.cuda.is_available()

1.True

1.2 安装YOLO v5

安装
https://github.com/ultralytics/yolov5

# 克隆地址
git clone https://github.com/ultralytics/yolov5.git
# 如果下载速度慢，参考课程附件：
Windows软件/yolov5-master.zip # 进入目录
在yolov5-master目录中执行下面命令
# 安装依赖
pip3 install -r requirements.txt

下载预训练权重文件

下载地址：https://github.com/ultralytics/yolov5/releases

在yolov5-master新建weights文件夹，将下载权重文件放到weights文件夹中

测试安装
在yolov5-master目录中执行下面命令

python detect.py --source ./data/images/ --weights weights/yolov5s.pt --conf-thres 0.4

到此说明环境安装成功

二、YOLO v5训练自定义数据

2.1 准备数据集

2.1.1 创建 dataset.yaml

复制yolov5-master/data/coco128.yaml一份，比如为coco_chv.yaml

# Train/val/test sets as 1) dir: path/to/imgs, 2) file: path/to/imgs.txt, or 3) list: [path/to/imgs1, path/to/imgs2, ..]
path: ../datasets/CHV_dataset  # 数据所在目录
train: images/train  # 训练集图片所在位置（相对于path）
val:  images/val # 验证集图片所在位置（相对于path）
test:  # 测试集图片所在位置（相对于path）（可选）# 类别
nc: 6  # 类别数量
names: ['person','vest','blue helmet','red helmet','white helmet','yellow helmet']  # 类别标签名

2.1.2 标注图片

使用LabelImg等标注工具标注图片（需要支持YOLO格式）
LabelImg下载地址 https://github.com/tzutalin/labelImg)
百度网盘：
链接：https://pan.baidu.com/s/1V_T65uKo9r445NZ2FwLvZA
提取码：forc

使用參考教程：
https://zhuanlan.zhihu.com/p/550021453
labelimg的标注模式分为VOC和YOLO两种，两种模式下生成的标注文件分别为.xml文件和.txt文件，因此在进行标注前需要优先选择好标注的模式。

YOLO格式标签：

一个图一个txt标注文件（如果图中无所要物体，则无需txt文件）；
每行一个物体；
每行数据格式：类别id、x_center y_center width height；
xywh必须归一化（0-1），其中x_center、width除以图片宽度，y_center、height除以画面高度；
类别id必须从0开始计数

2.1.3 组织目录结构

datasets与yolov5-master同级目录；
YOLO会自动将../datasets/CHV_dataset/images/train/ppe_1106.jpg中的/images/替换成/labels/以寻找它的标签，如../datasets/CHV_dataset/labels/train/ppe_1106.txt，所以根据这个原则，我们一般可以：
- images文件夹下有train和val文件夹，分别放置训练集和验证集图片;
- labels文件夹有train和val文件夹，分别放置训练集和验证集标签(yolo格式）;

2.2 选择合适的预训练模型

根据你的设备，选择合适的预训练模型，具体模型比对如下：
模型下载地址
https://github.com/ultralytics/yolov5

复制models下对应模型的yaml文件，重命名，并修改其中：

nc: 6  # 类别数量

2.3 训练

下载对应的预训练模型权重文件，可以放到weights目录下，设置本机最好性能的各个参数，即可开始训练，课程中训练了以下参数：

# yolov5n
python .\train.py --data .\data\coco_chv.yaml --cfg .\models\yolov5n_chv.yaml --weights .\weights\yolov5n.pt --batch-size 20 --epochs 120 --workers 4 --name base_n --project yolo_test# yolov5s
python .\train.py --data .\data\coco_chv.yaml --cfg .\models\yolov5s_chv.yaml --weights .\weights\yolov5s.pt --batch-size 16 --epochs 120 --workers 4 --name base_s --project yolo_test# yolov5m
python .\train.py --data .\data\coco_chv.yaml --cfg .\models\yolov5m_chv.yaml --weights .\weights\yolov5m.pt --batch-size 12 --epochs 120 --workers 4 --name base_m --project yolo_test# yolov5n6 1280
python .\train.py --data .\data\coco_chv.yaml --img-size 1280 --cfg .\models\yolov5n6_chv.yaml --weights .\weights\yolov5n6.pt --batch-size 20 --epochs 120 --workers 4 --name base_n6 --project yolo_test

更多参数见train.py；

训练结果在runs/train/中可见，一般训练时间在几个小时以上。
开始训练
训练时不要翻墙

训练完成

训练结果

2.4 可视化

2.4.1 wandb

YOLO官网推荐使用https://wandb.ai/。

使用pip install wandb安装扩展包；

153f2c145f0b461849d0a587e2ac2200151130be
去官网注册账号；
训练的时候填写key秘钥，地址：
打开网站即可查看训练进展。

关闭wandb

wandb offline

2.4.2 Tensorboard

tensorboard --logdir=./runs

2.3 测试评估模型

2.3.1 测试

Usage - sources:$ python path/to/detect.py --weights yolov5s.pt --source 0              # webcamimg.jpg        # imagevid.mp4        # videopath/          # directorypath/*.jpg     # glob'https://youtu.be/Zgi9g1ksQHc'  # YouTube'rtsp://example.com/media.mp4'  # RTSP, RTMP, HTTP stream# 如
python detect.py --source ./test_img/img1.jpg --weights runs/train/base_n/weights/best.pt --conf-thres 0.3
# 或
python detect.py --source 0 --weights runs/train/base_n/weights/best.pt --conf-thres 0.3

2.3.2 评估

# n
# python val.py --data ./data/coco_chv.yaml  --weights runs/train/base_n/weights/best.pt --batch-size 12
# 4.3 GFLOPsClass     Images     Labels          P          R     mAP@.5 mAP@.5:.95all        133       1084       0.88      0.823      0.868      0.479person        133        450      0.899      0.808      0.877      0.484vest        133        217      0.905      0.788      0.833      0.468blue helmet        133         44      0.811       0.75      0.803      0.489red helmet        133         50      0.865        0.9      0.898      0.425white helmet        133        176      0.877      0.807      0.883      0.467yellow helmet        133        147      0.922      0.885      0.917      0.543
Speed: 0.2ms pre-process, 4.7ms inference, 3.9ms NMS per image at shape (12, 3, 640, 640)# s
# python val.py --data ./data/coco_chv.yaml  --weights runs/train/base_s/weights/best.pt --batch-size 12
# 15.8 GFLOPsClass     Images     Labels          P          R     mAP@.5 mAP@.5:.95all        133       1084      0.894      0.848      0.883      0.496person        133        450      0.915       0.84      0.887      0.508vest        133        217      0.928      0.834      0.877      0.501blue helmet        133         44      0.831       0.75      0.791      0.428red helmet        133         50        0.9      0.899      0.901      0.473white helmet        133        176      0.884      0.858       0.91      0.496yellow helmet        133        147      0.908      0.905       0.93      0.567
Speed: 0.2ms pre-process, 8.3ms inference, 3.9ms NMS per image at shape (12, 3, 640, 640)# m
# python val.py --data ./data/coco_chv.yaml  --weights runs/train/base_m/weights/best.pt --batch-size 12
# 48.0 GFLOPsClass     Images     Labels          P          R     mAP@.5 mAP@.5:.95all        133       1084      0.928      0.845      0.886      0.512person        133        450      0.935      0.794      0.895      0.529vest        133        217      0.922      0.813      0.868      0.508blue helmet        133         44      0.916      0.818      0.812      0.464red helmet        133         50        0.9        0.9      0.892      0.488white helmet        133        176      0.932      0.841      0.899      0.511yellow helmet        133        147      0.964      0.905      0.948      0.574
Speed: 0.4ms pre-process, 18.8ms inference, 4.6ms NMS per image at shape (12, 3, 640, 640)# n6 1280 ：
# python val.py --data ./data/coco_chv.yaml  --weights runs/train/base_n6_1280/weights/best.pt --batch-size 12 --img-size 1280
# 4.3 GFLOPsClass     Images     Labels          P          R     mAP@.5 mAP@.5:.95all        133       1084      0.906      0.858      0.901      0.507person        133        450      0.903      0.831      0.887      0.503vest        133        217      0.922      0.816       0.86      0.486blue helmet        133         44      0.843      0.795      0.828      0.465red helmet        133         50      0.899       0.92      0.954      0.507white helmet        133        176      0.921      0.865      0.925      0.515yellow helmet        133        147      0.947      0.918      0.954      0.566
Speed: 1.5ms pre-process, 14.1ms inference, 2.2ms NMS per image at shape (12, 3, 1280, 1280)

三、得到最优的训练结果

参考：https://github.com/ultralytics/yolov5/wiki/Tips-for-Best-Training-Results

3.1 数据：

每类图片：建议>=1500张；
每类实例（标注的物体）：建议>=10000个；
图片采样：真实图片建议在一天中不同时间、不同季节、不同天气、不同光照、不同角度、不同来源（爬虫抓取、手动采集、不同相机源）等场景下采集；
标注：
- 所有图片上所有类别的对应物体都需要标注上，不可以只标注部分；
- 标注尽量闭合物体，边界框与物体无空隙，所有类别对应物体不能缺少标签；
背景图：背景图用于减少假阳性预测（False Positive），建议提供0~10%样本总量的背景图，背景图无需标注；

3.2 模型选择

模型越大一般预测结果越好，但相应的计算量越大，训练和运行起来都会慢一点，建议：

在移动端（手机、嵌入式）选择：YOLOv5n/s/m
云端（服务器）选择：YOLOv5l/x

3.3 训练

对于小样本、中样本，建议试用预训练模型开始训练：

python train.py --data custom.yaml --weights yolov5s.ptyolov5m.ptyolov5l.ptyolov5x.ptcustom_pretrained.pt

对于大样本，建议从0开始训练（无需预训练模型）：

# --weights ''python train.py --data custom.yaml --weights '' --cfg yolov5s.yamlyolov5m.yamlyolov5l.yamlyolov5x.yaml

Epochs：初始设定为300，如果很早就过拟合，减少epoch，如果到300还没过拟合，设置更大的数值，如600, 1200等；
图像尺寸：训练时默认为--img 640，如果希望检测出画面中的小目标，可以设为--img 1280（检测时也需要设为--img 1280才能起到一样的效果）
Batch size：选择你硬件能承受的最大--batch-size；
超参数（Hyperparameters）：初次训练暂时不要改，具体参见https://github.com/ultralytics/yolov5/issues/607
更多：官网建议查看http://karpathy.github.io/2019/04/25/recipe/

错误

OpenMP错误: 日志中多次提到 OMP: Error #15: Initializing libiomp5md.dll, but found libiomp5md.dll already initialized.，这是一个与OpenMP并行框架有关的错误。出现这个错误的原因可能是因为您的环境中有多个版本的OpenMP。您可以尝试设置环境变量 KMP_DUPLICATE_LIB_OK=TRUE 来解决这个问题，但这只是一个临时的解决方法。最佳的做法是确保只有一个OpenMP运行时链接到进程中。
SSL错误: 日志中提到了 SSLError(SSLEOFError(8, 'EOF occurred in violation of protocol (_ssl.c:1131)'))，这是与SSL连接有关的错误。可能的原因包括：服务器或中间代理意外关闭了连接、网络问题、证书问题等。这个问题可能需要更多的调查。

针对上述问题，我提供以下建议：

解决OpenMP错误:
- 在启动Python脚本之前，尝试设置环境变量：
```
export KMP_DUPLICATE_LIB_OK=TRUE
```
  或在Windows下：
```
$env:KMP_DUPLICATE_LIB_OK="TRUE"
```
解决SSL错误:
- 如果您在某个特定网络环境下工作，例如公司网络，尝试更换网络或使用VPN。
- 确保您使用的Python和相关的库是最新的。尤其是 requests 和 urllib3 这两个库，它们经常因为SSL问题被更新。
- 如果您尝试连接的是一个您知道的安全的服务器，但仍然收到SSL错误，您可以考虑禁用SSL证书验证（尽管这样做会带来安全风险）。例如，如果您使用的是 requests 库，您可以在请求中设置 verify=False。

希望上述建议对您有所帮助。如果您有其他问题或需要进一步的帮助，请随时告诉我。