注意力机制学习--CA（Coordinateattention）简介CA注意力机制的优势：提出不足算法流程图代码最后简介CA（Coordinateattentionforefficientmobilenetworkdesign）发表在CVPR2021，帮助轻量级网络涨点、即插即用。CA注意力机制的优势：1、不仅考虑了通道信息，还考虑了方向相关的位置信息。2、足够的灵活和轻量，能够简单的插入到轻量级网络的核心模块中。提出不足1、SE注意力中只关注构建通道之间的相互依赖关系，忽略了空间特征。2、CBAM中引入了大尺度的卷积核提取空间特征，但忽略了长程依赖问题。算法流程图step1:为了避免空间信息

原文：https://www.cnblogs.com/Twobox/p/16791412.html熵熵：表述一个概率分布的不确定性。例如一个不倒翁和一个魔方抛到地上，看他们平稳后状态。很明显，魔方可能有6种状态，而不倒翁很大可能就一个状态，那么我们说在这种情况下，不倒翁的确定性高于魔方。也就是魔方的熵大于另外一个。那么我看表达式：\(H(p)=-\sum_i^nP_ilogP_i\)很明显，当p的概率是0或1时，没有不确定性，熵值为0。当为0.5时，熵最大，最不确定。相对熵https://zhuanlan.zhihu.com/p/372835186zui两个分布相似度的一种度量定义：性质：D(

原文：https://www.cnblogs.com/Twobox/p/16791412.html熵熵：表述一个概率分布的不确定性。例如一个不倒翁和一个魔方抛到地上，看他们平稳后状态。很明显，魔方可能有6种状态，而不倒翁很大可能就一个状态，那么我们说在这种情况下，不倒翁的确定性高于魔方。也就是魔方的熵大于另外一个。那么我看表达式：\(H(p)=-\sum_i^nP_ilogP_i\)很明显，当p的概率是0或1时，没有不确定性，熵值为0。当为0.5时，熵最大，最不确定。相对熵https://zhuanlan.zhihu.com/p/372835186zui两个分布相似度的一种度量定义：性质：D(