文章目录介绍摘要创新点文章链接基本原理HierarchicalFeatureMapsPatchMergingSwinTransformerBlock基于窗口的自注意力移位窗口自注意力核心代码官方代码非官方可用代码YOLOv8引入下载YoloV8代码
论文地址：https://arxiv.org/pdf/2103.14030.pdf代码地址：https://github.com/microsoft/Swin-Transformer本文介绍了一种新的视觉Transformer，称为SwinTransformer，它可以作为计算机视觉通用的骨干网络。从语言到视觉的转换中，适应Transformer所面临的挑战源于两个领域之间的差异，如视觉实体尺度的巨大变化和图像中像素的高分辨率与文本中单词的差异。为了解决这些差异，我们提出了一种分层Transformer，其表示是通过Shifted窗口计算的。Shifted窗口方案通过将自注意计算限制在非重叠的
Swintransformer是microsoft在2021年提出的方法（原版code链接），本文通过将其与小波时频图结合起来，共同用于轴承故障诊断中，目前还没有人将这个方法用于故障诊断哟。1.Swintransformer结构 上图展示的是官方的模型结构图，实际上是tiny模型，。它首先通过利用patchpartition将输入的图像分割为非重叠patch。其次采用linearembedding，将patch投影到维度C，然后交替使用窗口注意力机制与移位窗口注意力，并采用patchmerging进行下采样操作（起到CNN中池化层的作用）。与基于resnet的结构类似，可
Swintransformer是microsoft在2021年提出的方法（原版code链接），本文通过将其与小波时频图结合起来，共同用于轴承故障诊断中，目前还没有人将这个方法用于故障诊断哟。1.Swintransformer结构 上图展示的是官方的模型结构图，实际上是tiny模型，。它首先通过利用patchpartition将输入的图像分割为非重叠patch。其次采用linearembedding，将patch投影到维度C，然后交替使用窗口注意力机制与移位窗口注意力，并采用patchmerging进行下采样操作（起到CNN中池化层的作用）。与基于resnet的结构类似，可
提供YOLOv5/YOLOv7/YOLOv7-tiny模型YAML文件论文地址：https://arxiv.org/pdf/2103.14030.pdf代码地址：https://github.com/microsoft/Swin-Transformer本文介绍了一种新的视觉Transformer，称为SwinTransformer，它可以作为计算机视觉通用的骨干网络。从语言到视觉的转换中，适应Transformer所面临的挑战源于两个领域之间的差异，如视觉实体尺度的巨大变化和图像中像素的高分辨率与文本中单词的差异。为了解决这些差异，我们提出了一种分层Transformer，其表示是通过Shif
目录摘要1.Introduction2.RelatedWork2.1.基于CNN的RS语义分割2.2.自注意力机制2.3.ViT3.方法3.1.网络结构3.2.SwinTransformerblock3.3.SpatialInteractionModule3.4.FeatureCompressionModule3.5.RelationalAggregationModule4.Experiments4.1.Datasets4.1.1.VaihingenDataset4.1.2.PotsdamDataset4.2.实现细节4.2.1.训练设置4.2.2.损失函数4.2.3.评价指标4.3.实验结果
目录摘要1.Introduction2.RelatedWork2.1.基于CNN的RS语义分割2.2.自注意力机制2.3.ViT3.方法3.1.网络结构3.2.SwinTransformerblock3.3.SpatialInteractionModule3.4.FeatureCompressionModule3.5.RelationalAggregationModule4.Experiments4.1.Datasets4.1.1.VaihingenDataset4.1.2.PotsdamDataset4.2.实现细节4.2.1.训练设置4.2.2.损失函数4.2.3.评价指标4.3.实验结果
