【论文解读】AttentionalFeatureFusion一、研究背景二、Multi-scaleChannelAttentionModule（MS-CAM）三、AttentionalFeatureFusion（AFF）四、IterativeAttentionalFeatureFusion（IAFF）五、实例：替换ResNet,FPN和InceptionNet中的特征融合六、实验1数据集及实验设置2消融实验3对比实验首先附上论文地址和代码：论文地址：https://ieeexplore.ieee.org/document/9423114代码地址：https://github.com/Yimia
【论文解读】AttentionalFeatureFusion一、研究背景二、Multi-scaleChannelAttentionModule（MS-CAM）三、AttentionalFeatureFusion（AFF）四、IterativeAttentionalFeatureFusion（IAFF）五、实例：替换ResNet,FPN和InceptionNet中的特征融合六、实验1数据集及实验设置2消融实验3对比实验首先附上论文地址和代码：论文地址：https://ieeexplore.ieee.org/document/9423114代码地址：https://github.com/Yimia
AttentionalFeatureFusion注意力特征融合最近看到一篇比较不错的特征融合方法，基于注意力机制的AAF，与此前的SENet、SKNet等很相似，但AFF性能优于它们，并且适用于更广泛的场景，包括短和长跳连接以及在Inception层内引起的特征融合。AFF是由南航提出的注意力特征融合，即插即用！本篇博客主要参考自知乎作者OucQxw，知乎原文地址：https://zhuanlan.zhihu.com/p/424031096论文下载地址：https://arxiv.org/pdf/2009.14082.pdfGithub代码地址：https://github.com/Yimia
AttentionalFeatureFusion注意力特征融合最近看到一篇比较不错的特征融合方法，基于注意力机制的AAF，与此前的SENet、SKNet等很相似，但AFF性能优于它们，并且适用于更广泛的场景，包括短和长跳连接以及在Inception层内引起的特征融合。AFF是由南航提出的注意力特征融合，即插即用！本篇博客主要参考自知乎作者OucQxw，知乎原文地址：https://zhuanlan.zhihu.com/p/424031096论文下载地址：https://arxiv.org/pdf/2009.14082.pdfGithub代码地址：https://github.com/Yimia
前言文献名称：LearnedImageCompressionwithDiscretizedGaussianMixtureLikelihoodsandAttentionModules本文基于CompressAI的库进行复现github地址：compressAI关于compressAI相关博客说明：CompressAI：基于pytorch的图像压缩框架使用安装好compressai后相当于把这个底层库引入了我们的工程相关环境搭配可以参考JointAutoregressiveandHierarchicalPriorsforLearnedImageCompression文献复现文献复现同样都是使用co
前言文献名称：LearnedImageCompressionwithDiscretizedGaussianMixtureLikelihoodsandAttentionModules本文基于CompressAI的库进行复现github地址：compressAI关于compressAI相关博客说明：CompressAI：基于pytorch的图像压缩框架使用安装好compressai后相当于把这个底层库引入了我们的工程相关环境搭配可以参考JointAutoregressiveandHierarchicalPriorsforLearnedImageCompression文献复现文献复现同样都是使用co
目录前言1低层/高层特征2早/晚融合-Concat/Add3Attention特征融合前言特征融合是指来自不同层或分支的特征的组合，是现代网络体系结构中很常见的一种操作。图像处理的特征融合中，对于普遍的多尺度融合，广泛操作是直接将他们相加或者拼接起来！即通常通过简单的操作（例如求和或串联）来实现，但是，这不一定是最佳选择。随着Transformer在计算机视觉领域的快速发展，基于Attention的特征融合也占据一片天地！即注意力特征融合，该方案适用于大多数常见场景，包括由shortandlongskipconnections以及在Inception层内的特征融合。【相关学习资源】深度特征融合
目录前言1低层/高层特征2早/晚融合-Concat/Add3Attention特征融合前言特征融合是指来自不同层或分支的特征的组合，是现代网络体系结构中很常见的一种操作。图像处理的特征融合中，对于普遍的多尺度融合，广泛操作是直接将他们相加或者拼接起来！即通常通过简单的操作（例如求和或串联）来实现，但是，这不一定是最佳选择。随着Transformer在计算机视觉领域的快速发展，基于Attention的特征融合也占据一片天地！即注意力特征融合，该方案适用于大多数常见场景，包括由shortandlongskipconnections以及在Inception层内的特征融合。【相关学习资源】深度特征融合
目录前言1.注意力机制1.1非自主提示和自主提示1.2查询，键和值1.3注意力机制的公式1.3.1平均汇聚1.3.2非参数的注意力汇聚（Nadaraya-Watson核回归）1.3.3带参数的注意力汇聚（Nadaraya-Watson核回归）1.4注意力机制的评分函数（a(query,key)a(query,key)a(query,key)）1.4.1加性注意力1.4.2点积注意力1.5多头注意力（multi-head）2.自注意力机制2.1优缺点2.2单一自注意力机制图片示例2.3多头自注意力机制图片示例总结前言由于我对注意力机制和自注意力机制的原理和区别不是很清楚。因此，对相关内容进行了深
目录前言1.注意力机制1.1非自主提示和自主提示1.2查询，键和值1.3注意力机制的公式1.3.1平均汇聚1.3.2非参数的注意力汇聚（Nadaraya-Watson核回归）1.3.3带参数的注意力汇聚（Nadaraya-Watson核回归）1.4注意力机制的评分函数（a(query,key)a(query,key)a(query,key)）1.4.1加性注意力1.4.2点积注意力1.5多头注意力（multi-head）2.自注意力机制2.1优缺点2.2单一自注意力机制图片示例2.3多头自注意力机制图片示例总结前言由于我对注意力机制和自注意力机制的原理和区别不是很清楚。因此，对相关内容进行了深
