Transformer框架时间序列模型Informer内容与代码解读注：大家觉得博客好的话，别忘了点赞收藏呀，本人每周都会更新关于人工智能和大数据相关的内容，内容多为原创，PythonJavaScalaSQL代码，CVNLP推荐系统等，SparkFlinkKafkaHbaseHiveFlume等等~写的都是纯干货，各种顶会的论文解读，一起进步。论文：https://arxiv.org/abs/2012.07436代码：https://github.com/zhouhaoyi/Informer2020#博学谷IT学习技术支持#文章目录Transformer框架时间序列模型Informer内容与代

本博客主要分为两部分：1、PINN模型论文解读2、PINN模型相关总结第一部分：PINN模型论文解读一、摘要基于物理信息的神经网络（Physics-informedNeuralNetwork，简称PINN），是一类用于解决有监督学习任务的神经网络，同时尊重由一般非线性偏微分方程描述的任何给定的物理规律。原理：它不仅能够像传统神经网络一样学习到训练数据样本的分布规律，而且能够学习到数学方程描述的物理定律。优势：与纯数据驱动的神经网络学习相比，PINN在训练过程中施加了物理信息约束，因而能用更少的数据样本学习到更具泛化能力的模型。缺陷：PINN的缺点是较难处理高维数据，低维可以处理，因为所需训练数

本博客主要分为两部分：1、PINN模型论文解读2、PINN模型相关总结第一部分：PINN模型论文解读一、摘要基于物理信息的神经网络（Physics-informedNeuralNetwork，简称PINN），是一类用于解决有监督学习任务的神经网络，同时尊重由一般非线性偏微分方程描述的任何给定的物理规律。原理：它不仅能够像传统神经网络一样学习到训练数据样本的分布规律，而且能够学习到数学方程描述的物理定律。优势：与纯数据驱动的神经网络学习相比，PINN在训练过程中施加了物理信息约束，因而能用更少的数据样本学习到更具泛化能力的模型。缺陷：PINN的缺点是较难处理高维数据，低维可以处理，因为所需训练数

UNet-2022:ExploringDynamicsinNon-isomorphicArchitecture论文地址:https://arxiv.org/pdf/2210.15566.pdf代码地址:https://bit.ly/3ggyD5G摘要    最近的医学图像分割模型大多是混合的，将自注意力和卷积层集成到非同构架构中。然而，这些方法的一个潜在缺点是它们未能直观地解释为什么这种混合组合方式是有益的，这使得后续工作难以在它们之上进行改进。为了解决这个问题，我们首先分析了自注意力和卷积的权重分配机制之间的差异。基于此分析，我们建议构建一个并行的非同构块，该块利用自注意力和卷积的优点，并具

UNet-2022:ExploringDynamicsinNon-isomorphicArchitecture论文地址:https://arxiv.org/pdf/2210.15566.pdf代码地址:https://bit.ly/3ggyD5G摘要    最近的医学图像分割模型大多是混合的，将自注意力和卷积层集成到非同构架构中。然而，这些方法的一个潜在缺点是它们未能直观地解释为什么这种混合组合方式是有益的，这使得后续工作难以在它们之上进行改进。为了解决这个问题，我们首先分析了自注意力和卷积的权重分配机制之间的差异。基于此分析，我们建议构建一个并行的非同构块，该块利用自注意力和卷积的优点，并具

写在前面Informer模型来自发表于AAAI21的一篇bestpaper《Informer:BeyondEfficientTransformerforLongSequenceTime-SeriesForecasting》。Informer模型针对Transformer存在的一系列问题，如二次时间复杂度、高内存使用率以及Encoder-Decoder的结构限制，提出了一种新的思路来用于提高长序列的预测问题。下面的这篇文章主要带大家使用作者开源的Informer代码，并将其用于股票价格预测当中。1Informer模型近年来的研究表明，Transformer具有提高预测能力的潜力。然而，Trans

写在前面Informer模型来自发表于AAAI21的一篇bestpaper《Informer:BeyondEfficientTransformerforLongSequenceTime-SeriesForecasting》。Informer模型针对Transformer存在的一系列问题，如二次时间复杂度、高内存使用率以及Encoder-Decoder的结构限制，提出了一种新的思路来用于提高长序列的预测问题。下面的这篇文章主要带大家使用作者开源的Informer代码，并将其用于股票价格预测当中。1Informer模型近年来的研究表明，Transformer具有提高预测能力的潜力。然而，Trans

SoftwareArchitectureandHighLevelDesign软件架构与概要设计      HighLevelDesigninshortHLDisthegeneralsystemdesignmeansitreferstotheoverallsystemdesign.Itdescribestheoveralldescription/architectureoftheapplication.Itincludesthedescriptionofsystemarchitecture,databasedesign,briefdescriptiononsystems,services,pla

SoftwareArchitectureandHighLevelDesign软件架构与概要设计      HighLevelDesigninshortHLDisthegeneralsystemdesignmeansitreferstotheoverallsystemdesign.Itdescribestheoveralldescription/architectureoftheapplication.Itincludesthedescriptionofsystemarchitecture,databasedesign,briefdescriptiononsystems,services,pla

论文题目：《VisionPermutator:APermutableMLP-LikeArchItectureForVisualRecognition》 论文作者：QibinHou,ZihangJiang,LiYuan etal.论文发表年份：2022.2模型简称：ViP发表期刊： IEEETransactionsonPatternAnalysisandMachineIntelligence Abstract　　在本文中，我们提出了一种概念简单、数据高效的类似MLP的视觉识别体系结构——视觉置换器（VisionPermutator）。不同于最近的类似MLP的模型大都沿着平坦的空间维度编码空间信息