目标检测算法——YOLOV7——详解_yolov7

阿里云国内75折回扣微信号：monov8

阿里云国际，腾讯云国际，低至75折。AWS 93折免费开户实名账号代冲值优惠多多微信号：monov8 飞机：@monov6

1、主要贡献

主要是现有的一些trick的集合以及模块重参化和动态标签分配策略最终在 5 FPS 到 160 FPS 范围内的速度和准确度都超过了所有已知的目标检测器。

当前目标检测主要的优化方向：更快更强的网络架构；更有效的特征集成方法；更准确的检测方法；更精确的损失函数；更有效的标签分配方法；更有效的训练方法。

2、主要思路

按照论文目前模型精度和推理性能比较均衡的是yolov7 模型(对应的开源git版本为0.1版)。根据源码+导出的onnx文件+“张大刀”等的网络图修改了其中目前我认为的一些bug增加一些细节。重新绘制了yoloV7 0.1版本的非常详尽网络结构。注意：

1其中的特征图结果维度注释是按照箭头的流方向不是固定的上下方向。

2输入输出仅仅是指当前模块的输入输出整体需要根据流方向累乘计算最终的结果。

3该模型版本没有辅助训练头。

整体上和YOLOV5是相似的主要是网络结构的内部组件的更换涉及一些新的sota的设计思想、辅助训练头、标签分配思想等。整体预处理、loss等可参考yolov5: 目标检测算法——YOLOV5_TigerZ*的博客-CSDN博客_目标检测yolov5

3、具体细节

1input

整体复用YOLOV5的预处理方式和相关源码唯一需要注意的是官方主要是在640*640和1280*1280这样的相对较大的图片上进行的训练和测试。

具体参考我的另一篇YOLOV5博客中的 “具体细节” -> ‘input’ 章节即可。目标检测算法——YOLOV5_TigerZ*的博客-CSDN博客_目标检测yolov5

2backbone

主要是使用ELAN该版本模型并没有使用论文里提到的最复杂的E-ELAN结构和 MP 结构。该版本模型的激活函数使用的是Silu。

详细可以参考源码的 cfg/training/yolov7.yaml 文件 + models/yolo.py 文件 + 使用 export.py 导出onnx 结构使用 netron等软件来梳理。

a.ELAN结构

通过控制最短最长的梯度路径更深的网络可以有效地学习和收敛。作者提出ELAN结构。基于ELAN设计的E-ELAN 用expand、shuffle、merge cardinality来实现在不破坏原有梯度路径的情况下不断增强网络学习能力的能力。PS：该版本模型以及E6E网友反馈均未实现E-ELAN论文中相关的图如下其中的cross stage connection 其实就是1*1卷积：

简化如下：

b.MP 结构

个人认为这是一个相对鸡贼的结构之前下采样我们通常最开始使用maxpooling之后大家又都选用stride = 2的3*3卷积。这里作者充分发挥：“小孩子才做选择大人都要”的原则同时使用了max pooling 和 stride=2的conv。需要注意backbone中的MP前后通道数是不变的。

3neck & head

检测头整体结构和YOLOV5类似仍然是anchor based 结构仍然没有使用YOLOX 和YOLOV6 的解耦头分类和检测思路这一点目前不太理解后续有精力可以魔改一下。主要是使用了：

*SPPCSPC结构

*ELAN-W我自己命名非官方名字因为基本上和ELAN类似但是又不是论文中的E-ELAN

*MP 结构和backbone参数不同

*比较流行的重参数化结构Rep结构

以上参见本篇博客中的“主要思路”中的整体图里面就有可视化的这些部件可以非常直观的理解这些结构。详细可以参考源码的 cfg/training/yolov7.yaml 文件 + models/yolo.py 文件 + 使用 export.py 导出onnx 结构使用 netron等软件来梳理。

4loss function

主要分带和不带辅助训练头两种对应的训练脚本是train.py 和 train_aux.py。

不带辅助训练头分损失函数和匹配策略两部分讨论。

损失函数

整体和YOLOV5 保持一致分为坐标损失、目标置信度损失GT就是训练阶段的普通iou和分类损失三部分。其中目标置信度损失和分类损失采用BCEWithLogitsLoss带log的二值交叉熵损失坐标损失采用CIoU损失。详细参见utils/loss.py 里面的 ComputeLossOTA 函数配合配置文件里的各部分的权重设置。

匹配策略

主要是参考了YOLOV5 和YOLOV6使用的当下比较火的simOTA.

S1.训练前会基于训练集中gt框通过k-means聚类算法先验获得9个从小到大排列的anchor框。(可选)

S2.将每个gt与9个anchor匹配：Yolov5为分别计算它与9种anchor的宽与宽的比值较大的宽除以较小的宽比值大于1下面的高同样操作、高与高的比值在宽比值、高比值这2个比值中取最大的一个比值若这个比值小于设定的比值阈值这个anchor的预测框就被称为正样本。一个gt可能与几个anchor均能匹配上此时最大9个。所以一个gt可能在不同的网络层上做预测训练大大增加了正样本的数量当然也会出现gt与所有anchor都匹配不上的情况这样gt就会被当成背景不参与训练说明anchor框尺寸设计的不好。

S3.扩充正样本。根据gt框的中心位置将最近的2个邻域网格也作为预测网格也即一个groundtruth框可以由3个网格来预测；可以发现粗略估计正样本数相比前yolo系列增加了三倍此时最大27个匹配。图下图浅黄色区域其中实线是YOLO的真实网格虚线是将一个网格四等分如这个例子中GT的中心在右下虚线网格则扩充右和下真实网格也作为正样本。

S4.获取与当前gt有top10最大iou的prediction结果。将这top10 5-15之间均可并不敏感iou进行sum就为当前gt的k。k最小取1。

S5.根据损失函数计算每个GT和候选anchor损失前期会加大分类损失权重后面减低分类损失权重如1:5->1:3并保留损失最小的前K个。

S6.去掉同一个anchor被分配到多个GT的情况。

带辅助训练头分损失函数和匹配策略两部分讨论。

论文中将负责最终输出的Head为lead Head将用于辅助训练的Head称为auxiliary Head。本博客不重点讨论原因是论文中后面的结构实验实现提升比较有限0.3个点具体可以看原文。

一些细节：其loss函数和不带辅助头相同加权系数不能过大aux head loss 和lead head loss 按照0.25:1的比例否则会导致lead head出来的结果精度变低。匹配策略和上面的不带辅助头只有lead head只有很少不同其中辅助头：

*lead head中每个网格与gt如果匹配上附加周边两个网格而aux head附加4个网格如上面导数第二幅图匹配到浅黄+橘黄共5个网格。

*lead head中将top10个样本iou求和取整而aux head中取top20。

aux head更关注于recall而lead head从aux head中精准筛选出样本。

需要注意依照yolov5中的中心点回归方式仅能将图中红色特征grid预测在图中红色+蓝色区域实线组成的网格代表着特征图grid虚线代表着一个grid分成了4个象限是根本无法将中心点预测到gt处(蓝色点)而该红色特征grid在训练时是会作为正样本的。在aux head中模型也并没有针对这种情况对回归方式作出更改。所以其实在aux head中即使被分配为正样本的区域经过不断的学习可能仍然无法完全拟合至效果特别好。