训练深度学习模型的技巧

最核心的技巧：数据集足够大且标记良好，就可以在不更改模型或训练设置的情况下获得良好的结果

但是，获得大量标记良好的数据集是有很高成本的，当数据集达不到上述要求时，可以遵循下面的技巧。

第一：先使用默认设置获得一个基准性能(baseline performance)，找出需要改进的地方。借助wandb/tensorboard等工具，查看：train losses, val losses, mAP，PR curve, confusion matrix, training mosaics, test results，并对比数据集的统计信息，例如，labels.jpg。

labels.jpg
第二：了解一些好数据集的量化指标：

• Images per class. ≥ 1500 images per class
• Instances per class ≥ 10000 instances (labeled objects) per class
• 图像多样性：必须能代表模型部署的环境。例如：来自一天中不同时间、不同季节、不同天气、不同照明、不同角度、不同来源（在线抓取、本地收集、不同相机）等的图像。
• 标签准确性：标签必须紧紧地包围每个对象，对象与其边界框之间不应存在空间。任何对象都不应缺少标签
• 标签一致性：必须标记所有图像中所有类的所有实例。不能一部分标记，一部分不标记
• 背景图像：背景图像是没有添加到数据集以减少误报 (FP) 的对象的图像。我们建议使用大约 0-10% 的背景图片来帮助减少 FP（COCO 有 1000 张背景图片供参考，占总数的 1%）。背景图像不需要标签
  COCO/PASCAL VOC和ImageNet都是公认的优秀的数据集，可以对照上述标准评判。
  Microsoft COCO: Common Objects in Context
  上图来源: Microsoft COCO: Common Objects in Context
  第三：在中小型数据集上，最好从预训练权重(Pretrained weights)开始训练；在大型数据集上，例如：COCO, Objects365, OIv6，可以无需预训练权重，从头开始训练模型。
  第四：熟悉一些常用的超参数：
• Epochs，从300开始，若没有过拟合，则可以增加训练轮数，例如，600,1200...
• 图像尺寸(Image Size)，COCO数据集的原生分辨率是 640。训练时的图像尺寸越大，小物体越受益。推理计算时采用的图像尺寸要与训练时保持一致。
• Batch Size，只要不报CUDA out of memory错误，越大越好。Batch Size较小会导致batchnorm的结果较差，应尽量避免
  超参数的一个范例: https://github.com/ultralytics/yolov5/blob/master/data/hyps/hyp.scratch-low.yaml

# YOLOv5 🚀 by Ultralytics, GPL-3.0 license
# Hyperparameters for low-augmentation COCO training from scratch
# python train.py --batch 64 --cfg yolov5n6.yaml --weights '' --data coco.yaml --img 640 --epochs 300 --linear
# See tutorials for hyperparameter evolution https://github.com/ultralytics/yolov5#tutorials

lr0: 0.01  # initial learning rate (SGD=1E-2, Adam=1E-3)
lrf: 0.01  # final OneCycleLR learning rate (lr0 * lrf)
momentum: 0.937  # SGD momentum/Adam beta1
weight_decay: 0.0005  # optimizer weight decay 5e-4
warmup_epochs: 3.0  # warmup epochs (fractions ok)
warmup_momentum: 0.8  # warmup initial momentum
warmup_bias_lr: 0.1  # warmup initial bias lr
box: 0.05  # box loss gain
cls: 0.5  # cls loss gain
cls_pw: 1.0  # cls BCELoss positive_weight
obj: 1.0  # obj loss gain (scale with pixels)
obj_pw: 1.0  # obj BCELoss positive_weight
iou_t: 0.20  # IoU training threshold
anchor_t: 4.0  # anchor-multiple threshold
# anchors: 3  # anchors per output layer (0 to ignore)
fl_gamma: 0.0  # focal loss gamma (efficientDet default gamma=1.5)
hsv_h: 0.015  # image HSV-Hue augmentation (fraction)
hsv_s: 0.7  # image HSV-Saturation augmentation (fraction)
hsv_v: 0.4  # image HSV-Value augmentation (fraction)
degrees: 0.0  # image rotation (+/- deg)
translate: 0.1  # image translation (+/- fraction)
scale: 0.5  # image scale (+/- gain)
shear: 0.0  # image shear (+/- deg)
perspective: 0.0  # image perspective (+/- fraction), range 0-0.001
flipud: 0.0  # image flip up-down (probability)
fliplr: 0.5  # image flip left-right (probability)
mosaic: 1.0  # image mosaic (probability)
mixup: 0.0  # image mixup (probability)
copy_paste: 0.0  # segment copy-paste (probability)

从工具的角度，最重要的是：建立端到端的深度学习模型训练/评估框架
参考资料：A Recipe for Training Neural Networks