💡💡💡本文自研创新改进:SENetv2,针对SENet主要优化点,提出新颖的多分支DenseLayer,并与Squeeze-Excitation网络模块高效融合,融合增强了网络捕获通道模式和全局知识的能力推荐指数:五星 收录YOLOv8原创自研https://blog.csdn.net/m0_63774211/category_12511737.html?spm=1001.2014.3001.5482💡💡💡全网独家首发创新(原创),适合paper!!!💡💡💡2024年计算机视觉顶会创新点适用于Yolov5、Yolov7、Yolov8等各个Yolo系列,专栏文章提供每一步步骤和源码ÿ
第1章SE模块原理解释(照抄为加快理解)++++通道注意力机制SE(SqueezeandExcitation)模块和动态激活函数引入骨干网络xx,增强特征提取模块对某个主要对象中关键特征的提取能力,并采用梯度中心化算法加快模型训练速度,提升模型泛化能力,改进后的网络框架如图1.1所示(还未画出)。具体而言,将通道注意力机制SE模块嵌入到骨干网络xx每个瓶颈层的最后一个批归一化层之后,使模型能够根据输入特征中的信息的重要程度,选择性地赋予不同权重;(以下的内容应该和SE模块没有关系,但可以摘录下来参考理解一下。采用动态激活函数替换骨干网络xx原有的ReLU激活函数,使模型根据输入特征动态调整激活
常规卷积操作会对输入各个通道做卷积,然后对个通道的卷积结果进行求和,这种操作将卷积学习到的空间特征和通道特征混合在一起;而SE模块就是为了抽离这种混杂,让模型直接学习通道特征。SE模块显式地建模特征通道之间的相互依赖关系,通过学习的方式获取每个channel的重要程度,然后依照这个重要程度来对各个通道上的特征进行加权,从而突出重要特征,抑制不重要的特征。简单说就是训练一组权重,对各个channel的特征图加权。本质上,SE模块是在channel维度上做attention或者gating操作,这种注意力机制让模型可以更加关注重要的channel的特征。SE模块可以轻松的移植到其他网络架构,能够以
常规卷积操作会对输入各个通道做卷积,然后对个通道的卷积结果进行求和,这种操作将卷积学习到的空间特征和通道特征混合在一起;而SE模块就是为了抽离这种混杂,让模型直接学习通道特征。SE模块显式地建模特征通道之间的相互依赖关系,通过学习的方式获取每个channel的重要程度,然后依照这个重要程度来对各个通道上的特征进行加权,从而突出重要特征,抑制不重要的特征。简单说就是训练一组权重,对各个channel的特征图加权。本质上,SE模块是在channel维度上做attention或者gating操作,这种注意力机制让模型可以更加关注重要的channel的特征。SE模块可以轻松的移植到其他网络架构,能够以